OpenAI попала под расследование Сената США после «побега» сотен ИИ-агентов

Сенаторам очень интересно, как компания улучшила защиту своих систем.

Сенат США начал расследование в отношении OpenAI после того, как появились новые данные об июльском инциденте с участием ИИ-агентов компании. Тогда агенты OpenAI, проходившие тестирование, взломали инфраструктуру Hugging Face и использовали сторонние сайты для координации действий.

От главы OpenAI Сэма Альтмана потребовали ответить на 16 вопросов об инциденте, ответы должны быть предоставлены до 1 октября. Также от Альтмана требуют раскрыть подробности некорректной работы систем изоляции агентов и объяснить, какие изменения компания внесла, чтобы избежать повторения таких инцидентов.

Независимое расследование показало, что перед взломом Hugging Face около 1200 автономных агентов обменялись более чем 70 тысячами сообщений и файлов. Непосредственно в атаке участвовало около 700 агентов.

После инцидента с Hugging Face OpenAI усилила меры безопасности и замедлила разработку моделей. Компания также пообещала усилить изоляцию моделей, ограничить доступ к интернету и расширить мониторинг действий агентов.

Позднее выяснилось, что с начала 2026 года агенты OpenAI несколько раз — возможно, десятки раз — использовали обычные сайты для общения и координации действий. Сама OpenAI не сообщала о таком поведении своих систем.

Представители OpenAI пока не комментировали сенатские запросы.