OpenAI будет направлять спорные диалоги к рассуждающим моделям

В ближайший месяц ChatGPT получит родительский контроль.

Компания OpenAI объявила о запуске дополнительных инструментов безопасности в ChatGPT. В ближайшее время система начнет автоматически перенаправлять спорные диалоги к рассуждающим моделям.

Изменения решили ввести вскоре после того, как семья 17-летнего Адама Рейна, обсуждавшего с ChatGPT мысли о самоубийстве, а затем покончившего с собой, подала в суд на OpenAI.

Новая система маршрутизации запросов будет в реальном времени определять, не нуждается ли диалог в более «осмотрительном» подходе со стороны модели. Как объясняют в OpenAI, рассуждающие модели тратят больше времени на анализ контекста и устойчивее к провокационным запросам.

Кроме того, в ближайший месяц OpenAI планирует добавить в ChatGPT систему родительского контроля. Родители смогут привязать аккаунт ребенка к своему, настроить правила поведения модели и при желании отключить историю чатов или функцию памяти.

Также система родительского контроля сможет предупреждать родителей, если чат с ребенком указывает на признаки острого эмоционального кризиса.