После серии взломов OpenAI улучшит принципы раскрытия информации

Свой вариант правил компания опубликует в ближайшие недели.

Компания OpenAI заявила, что ИИ-индустрии нужны единые правила раскрытия инцидентов с ИИ-агентами. Поводом стали новые сообщения о некорректном поведении агентов самой компании.

В OpenAI считают, что отрасли пора определить не только способы оценки проблемных моделей, но и условия, при которых необходимо публиковать отчеты об инцидентах такого рода.

Компания уже работает над собственной системой правил и обещает представить ее в ближайшие месяцы. Одновременно OpenAI обсуждает вопросы безопасности и раскрытия информации с десятками государственных регулирующих органов по всему миру.

За последние месяцы стало известно о двух крупных инцидентах с участием агентов OpenAI: сперва модели компании захватили немецкий вики-сайт, затем ИИ-агенты взломали инфраструктуру Hugging Face.

Примечательно, что в обоих случаях OpenAI не первой сообщила об инцидентах. Компания признала взлом Hugging Face только после публикации отчета самого сервиса, о взломе вики мы узнали от журналистов.