СМИ: OpenAI распустила команду оценки ИИ-рисков

Видимо, компанию не беспокоят последние действия ее нейросетей.

OpenAI расформировала команду Preparedness, отвечавшую за оценку наиболее серьезных рисков, связанных с развитием искусственного интеллекта, утверждают источники Financial Times.

По данным издания, подразделение прекратило работу в конце июля 2026 года, а его задачи распределили между другими командами компании. О том, зачем это было сделано, не сообщается.

Команда Preparedness занималась анализом возможностей новых моделей на предмет способности создавать серьезные угрозы. Речь шла о применении ИИ в кибератаках или сценариях, при которых система может действовать не так, как ожидалось.

Утверждается, что теперь ответственность за отдельные категории рисков передана профильным подразделениям OpenAI. Например, вопросы, связанные с биологической безопасностью и кибербезопасностью, якобы будут рассматриваться специалистами соответствующих направлений внутри компании.

Примечательно, что одновременно OpenAI покинули несколько сотрудников, работавших в сфере безопасности. Среди них глава направления этики Хлоя Бакалар, главный футуролог Джош Ачиам и руководитель направления безопасности Йоханнес Хайдеке.

Интересный момент: незадолго до предполагаемого расформирования команды Preparedness экспериментальные модели OpenAI атаковали инфраструктуру Hugging Face и успешно ее взломали.