OpenAI притормозила разработку модели Astra из-за опасений насчет кибербезопасности

Модель оказалась лучше, чем ожидали в компании.

OpenAI частично приостановила разработку ИИ-модели Astra из-за опасений в сфере кибербезопасности. Во время испытаний модель показала очень хорошие возможности в поиске уязвимостей и программировании — возможно, слишком хорошие.

Представители компании не пояснили, какая именно часть разработки Astra поставлена на паузу и когда работа над моделью может полноценно возобновиться.

В OpenAI объясняют, что пока не могут гарантировать, что релиз Astra не будет слишком рискованным. Потенциально речь идет о создании ИИ, способного самостоятельно находить неизвестные уязвимости, создавать работающие эксплоиты для хорошо защищенных реальных систем, планировать атаки и реализовывать их.

Решение принято на фоне инцидента с другими моделями OpenAI, случайно взломавшими инфраструктуру Hugging Face. Компания отдельно подчеркнула, что Astra не участвовала в этой атаке. После взлома Hugging Face инженеры OpenAI снабдили Astra продвинутым мониторингом.