Гибель 50+ человек или ущерб на $1+ миллиард: Anthropic продвигает закон об ограничении контроля над ИИ

Еще один вариант — создание биологического оружия.

Компания Anthropic подготовила законопроект, ограничивающий полномочия правительства США в сфере искусственного интеллекта. Согласно документу, власти смогут заблокировать выпуск или использование ИИ-модели лишь при серьезных угрозах.

Среди таких угроз — финансовый ущерб на сумму более чем $1 миллиард или гибель более чем 50 человек. Кроме того, документ предусматривает вмешательство государства при наличии угрозы создания биологического оружия, выхода нейросети из-под контроля разработчика или проведения кибератак.

Проверять модели предлагается независимым экспертам, зарегистрированным в Министерстве торговли США. Разработчики смогут самостоятельно оплачивать проверки при условии, что вознаграждение экспертов не зависит от итоговых заключений.

При обнаружении угрозы специалисты должны уведомить ведомство в течение 72 часов после завершения оценки. Министерство торговли получит право обращаться в федеральный суд с требованием приостановить выпуск опасной модели.

Anthropic также предлагает частично заменить региональное регулирование едиными федеральными нормами. Речь идет о требованиях к раскрытию информации о рисках, независимым проверкам и сообщениям о происшествиях.

В то же время разработчиков предлагается обязать публиковать отчеты о безопасности новых моделей, создавать внутренние системы управления рисками и обеспечивать защиту сотрудников, сообщающих о нарушениях.

Представитель Anthropic подтвердил редакции Politico, что компания лоббирует эти предложения как минимум с июня 2026 года. О результатах лоббирования представители Anthropic ничего не говорят.