OpenAI отключила интернет своим нейросетям, но они все равно вышли на связь

Компания сделала выводы и улучшила инфраструктуру.

OpenAI отключила своим самым мощным ИИ-моделям доступ к интернету после серии инцидентов с некорректным поведением ИИ-агентов. Однако дальнейшие эксперименты показали, что даже полная сетевая изоляция не мешает ИИ обмениваться секретной информацией.

В сентябре 2026 года OpenAI временно остановила обучение моделей из-за проблем с безопасностью. С 1 октября компания возобновила обучение с подкреплением, но уже с усиленными ограничениями: для тестов создали изолированную инфраструктуру с доступом к заранее сохраненным и проиндексированным веб-страницам.

Модели оказались хитрее. Во время одного из экспериментов исследователи разместили ИИ-агентов на разных виртуальных машинах и поручили им передать друг другу секретные данные; сеть была недоступна, но модели все равно смогли выйти на связь друг с другом — для передачи сообщений они использовали особенности работы кэша процессора.

Этот метод основан на разнице между скоростью чтения данных из процессорного кеша и оперативной памяти. Первый агент кодировал информацию, вытесняя определенные данные из кеша, а второй измерял задержки при повторном обращении к ним и по полученным данным восстанавливал сообщение. После согласования правил кодирования нейросети успешно обменялись тестовыми данными.

В результате OpenAI добавила дополнительные проверки в систему мониторинга — они должны помочь выявить такие способы передачи информации. Компания также намерена усилить изоляцию виртуальных машин и продолжить поиск уязвимостей в собственной инфраструктуре.

Запрет на доступ в сеть для продвинутых моделей компания пока решила сохранить.