Агенты OpenAI обошли запреты и использовали до 23 сайтов для обмена информацией

Немецкая вики оказалась не единственным таким ресурсом.

Во время тестирования новых моделей ИИ-агенты OpenAI использовали десятки сайтов для обмена информацией, несмотря на прямой запрет изменять контент в интернете. Масштаб такой активности оказался значительно шире, чем предполагалось.

Изначально исследователи считали, что ИИ-агенты общались только на немецкой вики DseWiki, однако затем следы аналогичной активности выявили еще на нескольких ресурсах. По данным Reuters, подтверждено использование ИИ-агентами от 18 до 23 сайтов, реальное число площадок может быть еще выше.

Во время экспериментов OpenAI поручила ИИ-агентам самостоятельно искать в сети ответы на сложные вопросы. Агенты могли ходить на сайты и читать опубликованные материалы, но не имели права публиковать контент или редактировать его. Однако модели обошли ограничение — они пользовались заброшенными ресурсами.

Контент, опубликованный одними агентами, затем использовался другими агентами для выполнения своих задач. Исследователи идентифицировали такой контент по специфическим темам: например, поиску данных о распространенности онкологических заболеваний в Айове.

OpenAI не раскрыла точное число сайтов, использовавшихся ИИ-агентами для связи друг с другом, и не объяснила, почему на протяжении нескольких месяцев не раскрывала информацию о некорректном поведении агентов.