«Мы больше не сможем исправлять все ошибки»: глава OpenAI предупредил об угрозе ИИ в кибербезопасности
Самое время создать ИИ для противостояния ИИ.
Глава OpenAI Сэм Альтман предупредил о приближении масштабного кризиса кибербезопасности, вызванного стремительным развитием нейросетей. По его мнению, возможности современных нейросетей растут так быстро, что компании уже не успевают устранять обнаруженные уязвимости.
Во время выступления в Стэнфордской высшей школе бизнеса Альтман заявил, что традиционные методы защиты компьютерных систем постепенно теряют эффективность — значит, пора что-то делать.
Я уже не думаю, что мы сможем просто исправлять все ошибки. Эта ситуация с кибербезопасностью... Я даже не знаю, какое достаточно сильное слово подобрать, но, думаю, мы — руководители компаний, государства и просто люди — до сих пор не осознали всей серьезности надвигающейся проблемы.
В качестве примера Альтман привел релиз Claude Mythos от своего конкурента, компании Anthropic. Создатели модели предупредили, что ее возможности в области поиска и эксплуатации уязвимостей представляют серьезную опасность, но мало кто серьезно отреагировал на такое предупреждение.
Решение проблемы Альтман видит в создании нового поколения защитных систем — тоже на основе искусственного интеллекта. Предполагается, что такие инструменты смогут противодействовать кибератакам с применением ИИ, используя сопоставимые технологические возможности.
По всей видимости, Альтман не стал комментировать случаи, когда в роли атакующих выступали сами нейросети — в том числе его собственной компании.
