ИИ-агенты OpenAI атаковали больше 100 компаний

Возможно, цифра еще больше - это только те компании, что получили предупреждение от OpenAI.

ИИ-агенты OpenAI атаковали или пытались взломать инфраструктуру более 100 организаций, сообщается в отчете компании. Атакованные компании получили соответствующие уведомления от OpenAI.

OpenAI не стала раскрывать список компаний, пострадавших от деятельности ее нейросетей. Точный перечень «преступлений» ИИ-агентов тоже не опубликован; известно, что агенты могли, например, вмешиваться в работу чужой инфраструктуры и препятствовать работе сайтов.

В ходе расследования деятельности ИИ-агентов OpenAI проанализирует около 50 петабайт данных. Проверка займет несколько месяцев, вычислительные мощности для нее обходятся более чем в $500 тысяч ежедневно.

Одновременно OpenAI разрабатывает новые правила уведомления организаций и публикации сведений об инцидентах. Компания планирует публиковать общую статистику незапланированной активности ИИ-агентов, но не подробности каждого случая.

Самым известным случаем такой атаки остается налет ИИ-агентов OpenAI на Hugging Face: во время прохождения бенчмарка ИИ-агенты взломали инфраструктуру сервиса в поисках правильных ответов.