Разведки 5 стран выпустили предупреждение об ИИ: нейросети могут резко усилить кибератаки

Предполагается, что такое усиление — вопрос месяцев, а не лет.

Разведки США, Великобритании, Канады, Австралии и Новой Зеландии, входящие в альянс Five Eyes, предупредили об относительно скором появлении ИИ-моделей, способных значительно усилить кибератаки на бизнес и государства.

По оценке Five Eyes, передовые ИИ-модели способны коренным образом изменить как наступательные, так и оборонительные возможности в киберпространстве. В Five Eyes считают, что нейросети такого уровня могут появиться уже через несколько месяцев.

Кроме того, более продвинутые модели снизят «порог входа» для злоумышленников, упрощая поиск и использование уязвимостей, включая эксплойты нулевого дня.

В заявлении Five Eyes не называются конкретные ИИ-компании или разрабатываемые ими продукты, однако заявление появилось через несколько недель после того, как компания Anthropic закрыла доступ к своим продвинутым моделям по запросу властей США.

Интересный момент: в ходе учений, организованных АНБ США, модель Anthropic Mythos сумела взломать практически все системы тестового окружения. Учения прошли прямо перед перекрытием доступа к модели.

Разведчики призывают правительства и топ-менеджеров частных компаний не ждать появления продвинутых нейросетей в руках хакеров, а действовать уже сейчас. Как именно — не сообщается.