ИИ-агентов OpenAI связали с еще одной атакой — на RubyGems

Моделям компании стоит научиться маскироваться получше.

Майская атака на площадку RubyGems могла быть проведена ИИ-агентами OpenAI, считают исследователи. Во время атаки на RubyGems активно загружали вредоносные пакеты для языка Ruby, в результате сервис был вынужден временно закрыть регистрацию новых аккаунтов.

Кроме того, атакующие воспользовались автоматической системой сборки RubyGems для удаленного выполнения кода, а затем попытались эксплуатировать уязвимость для получения API-ключей пользователей.

Анализ опубликованных пакетов показал признаки генерации при помощи ИИ. По словам исследователей, отправлявшие их модели идентифицировали себя как ИИ-агенты OpenAI: например, использовали адреса вроде openaixyz65947 и добавляли oai в названия пакетов.

Кроме того, поведение агентов оказалось очень похожим на действия роя, участвовавшего в массовом редактировании немецкой вики DseWiki, и, вероятно, десятков других сайтов.

Расследование показало, что атака на RubyGems продолжалась больше месяца. Самый ранний пакет, загруженный ИИ-агентом, датируется 5 мая, последние такие пакеты были загружены 18 июня.

Представители OpenAI публично не сообщали об атаке ее систем на RubyGems. Компания пока не комментировала выводы расследователей.