СМИ: у ИИ-агентов OpenAI было еще несколько «побегов»

Компания якобы провела расследование и выяснила много интересного.

OpenAI обнаружила несколько случаев, когда ее автономные ИИ-агенты покидали тестовые среды, пишет Reuters со ссылкой на источники, знакомые с внутренним расследованием компании.

Расследование началось после того, как ИИ-агент OpenAI взломал инфраструктуру Hugging Face в ходе прохождения бенчмарка, связанного с кибербезопасностью. Компания решила выяснить, могли ли ИИ-агенты и раньше выходить из изолированной среды, и нашла.

По словам источников, на этот раз речь не шла об атаках на инфраструктуру других компаний. Утверждается, что ИИ-агенты, покинувшие тестовую среду, не смогли выбраться из внутренней сети OpenAI.

Подробности того, как ИИ-агентам удалось покинуть тестовую среду, не приводятся. В случае со взломом Hugging Face ИИ-агент OpenAI воспользовался рядом уязвимостей в ПО, используемом OpenAI.

Возможно, пишет Reuters, эти случаи повлияют на позицию властей США насчет регулирования разработки и тестирования ИИ-агентов. Официально на этот счет ничего не сообщалось.