OpenAI поспорила с экспертами из-за безопасности ChatGPT для детей

Эксперты считают, что все плохо, OpenAI — что приемлемо.

Организация Common Sense Media протестировала детский режим ChatGPT и обнаружила, что механизмы защиты работают не так надежно, как обещает OpenAI. Система не всегда предупреждает родителей о потенциально опасных ситуациях и не во всех случаях реагирует на проблемные разговоры.

В частности, обеспокоенность у экспертов вызвали диалоги, связанные с самоповреждением. Исполнительный директор Youth AI Safety Institute Том Сигел заявил, что подросток может долго обсуждать такую тему с ChatGPT, при этом родитель может не получить ни одного уведомления.

В Common Sense Media также пришли к выводу, что ChatGPT продолжает помогать с выполнением школьных заданий даже при наличии специальных образовательных ограничений. Организация считает, что заявленные OpenAI механизмы защиты не годятся для использования сервиса несовершеннолетними.

OpenAI не согласилась с результатами проверки. Представитель компании Эрик Портерфилд заявил, что часть тестов Common Sense Media могла проходить до полной активации родительского контроля на связанных учетных записях — этот процесс может занимать несколько часов.

Common Sense Media отвергла этот аргумент. Организация утверждает, что часть тестовых аккаунтов оставалась связанной значительно дольше необходимого времени, но предупреждения все равно не приходили. Перед началом проверки специалисты уточнили у OpenAI, что функции детского режима уже работают.