Закон об экстренном отключении опасных ИИ-моделей разработали в США

Осталось придумать, как реализовать такой рубильник.

В Конгрессе США представили двухпартийный законопроект AI Kill Switch Act, призванный дать федеральным властям право останавливать или ограничивать работу систем на базе ИИ при угрозе общественной безопасности.

Законопроект был создан после заявления OpenAI об инциденте с моделями, вышедшими за пределы изолированной тестовой среды. Авторами документа стали конгрессмены Тед Лью от Демократической партии и республиканец Натаниэль Моран.

Законопроект обяжет крупнейших разработчиков ИИ-моделей заранее создавать технические механизмы для отключения моделей и сообщать властям о серьезных сбоях в работе нейросетей и опасном поведении моделей. На сообщение об инцидентах разработчикам дадут 15 дней.

Новые правила затронут компании, ежегодно зарабатывающие на соответствующих технологиях не менее $500 миллионов. Под действие закона также попадут модели, при разработке и обучении которых использовались вычислительные ресурсы стоимостью свыше $100 миллионов.

Основанием для вмешательства может стать отказ ИИ выполнять команду на отключение, попытка скрыть действия от систем мониторинга или достижение непредусмотренных целей. В перечень также входят происшествия, повлекшие гибель не менее 10 человек либо экономический ущерб от $100 миллионов.

Решение об ограничении модели сможет принимать Министерство внутренней безопасности США после консультаций с Министерством торговли и директором национальной разведки. Ведомство получит право проводить аудиты, а также требовать сохранения весов моделей и телеметрии моделей.