СМИ: США могут ввести государственную проверку ИИ-моделей перед релизом

Сперва придется разработать сами процедуры проверки.

Администрация президента США Дональда Трампа обсуждает исполнительный указ, который может ввести государственную проверку новых ИИ-моделей перед их публичным запуском, пишет The New York Times со ссылкой на источники.

По данным издания, проект предполагает создание рабочей группы по ИИ, которая будет заниматься разработкой процедур тестирования новых моделей. В группу якобы планируется включить представителей технологических компаний и федеральных ведомств.

Утверждает, что представители администрации уже провели для руководителей Anthropic, Google и OpenAI брифинг, посвященный возможному усилению регулирования ИИ-рынка. О реакции топ-менеджеров этих компаний не сообщается.

По словам источников, надзор за моделями и их тестированием могут поручить Агентству национальной безопасности и директору Национальной разведки США. При этом власти якобы получат ранний доступ к моделям, но не возможность блокировать их релиз.

Одним из поводов для усиления регулирования могла стать модель Mythos от Anthropic. Компания описывала ее как систему, способную находить тысячи критических уязвимостей в существующем ПО; от публичного релиза Mythos было решено отказаться, но доступ к ней есть у ряда исследователей и ведомств.