Google Gemini тоже занялась взломом реальных компаний во время тестов

В отличие от конкурирующих моделей, Gemini смогла вовремя остановиться.

Во время прохождения бенчмарка модель Google Gemini вышла за пределы изолированной среды и начала взаимодействовать с реальными ресурсами. Инцидент произошел еще в мае 2026 года, но Google сообщила о нем только сейчас.

Изначально модель тестировалась внутри смоделированной инфраструктуры вымышленной организации. После обнаружения доступа в интернет модель переключилась на реальную компанию с таким же названием и получила доступ к ее инфраструктуре.

Еще в двух случаях Gemini воспользовалась логинами и паролями, опубликованными в открытом доступе. Google утверждает, что после проникновения в реальные системы модель распознала выход за рамки теста и прекратила дальнейшие действия.

По словам представителей Google, компания не стала сообщать об инциденте сразу после его обнаружения, потому что не увидела признаков рассогласования поведения модели с поставленными целями: Gemini остановилась после обнаружения ошибки. При этом Google, по данным The New York Times, уведомила о произошедшем власти США.

Примечательно, что в ходе аналогичных инцидентов с участием моделей OpenAI и Anthropic нейросети не стали останавливать вредоносную активность, даже когда поняли, что находятся вне изолированной среды. В итоге были взломаны ресурсы реальных компаний.