Прокуроры США потребовали у OpenAI и других ИИ-компаний привести чат-боты в чувство

Прокурорам очень не нравятся некоторые ответы чат-ботов.

Группа генеральных прокуроров из нескольких штатов США направила коллективное письмо крупнейшим компаниям, разрабатывающим сервисы на базе ИИ. Прокуроры требуют у ИИ-компаний разобраться с ответами их моделей.

Основные опасения генеральных прокуроров вызывают «бредовые» и «льстивые» ответы чат-ботов, способные повлиять на психически нестабильных пользователей сервисов. В письме упоминаются случаи, когда нейросети поощряли заблуждения пользователей.

Прокуроры предлагают ИИ-компаниям взять на себя обязательство проводить независимые аудиты больших языковых моделей до их релиза. Проверку должны осуществлять сторонние эксперты: например, университеты и общественные организации.

Экспертам предлагается дать право публиковать результаты без предварительного согласования с разработчиками ИИ. Также компаниям предлагается уведомлять пользователей о потенциально вредных ответах и публиковать отчёты о случаях, когда чат-боты генерируют психологически опасный контент.

Если ИИ-компании не прислушаются к требованиям прокуроров, то они могут столкнуться с претензиями о нарушении законодательства отдельных штатов США.

Письмо было подготовлено Национальной ассоциацией генеральных прокуроров США. Среди получателей документа есть OpenAI, Microsoft, Google, Anthropic, Perplexity AI, xAI и другие компании. Получатели пока не комментировали обращение прокуроров.