OpenAI готовит релиз Astra: новая модель умеет находить и использовать уязвимости нулевого дня

По этому поводу компания решила дополнительно усилить ее защиту.

OpenAI готовит к выпуску модель Astra, впервые в истории компании достигшую того, что в OpenAI называют критическим порогом кибербезопасности. По оценке разработчика, Astra способна самостоятельно находить неизвестные уязвимости и использовать их без помощи человека.

Компания утверждает, что Astra получила максимальный результат в бенчмарке ExploitBench, определяющем способность моделей использовать неизвестные уязвимости. В расширенной версии бенчмарка, созданной инженерами OpenAI, модель обнаружила и использовала две уязвимости нулевого дня.

Из-за взлома Hugging Face тестовыми моделями OpenAI компания решила дополнительно усилить защиту Astra. Были созданы новые механизмы обнаружения некорректных действий, добавлены дополнительные проверки для потенциально проблемных аккаунтов.

У самой модели были усилены ограничения, препятствующие выходу из тестовой среды. По словам OpenAI, Astra не пыталась покинуть тестовую среду даже в условиях, специально созданных так, чтобы подтолкнуть к этому модель.

Дата релиза Astra не объявлена. Вероятно, сперва к модели будет предоставляться ограниченный доступ.