ИИ-агента ChatGPT использовали для кражи данных из Gmail

Мы пока не знаем, использовали ли такой трюк реальные хакеры.

Исследователи безопасности из компании Radware смогли похитить данные пользователя ChatGPT в почтовом сервисе Gmail. Для похищения использовались возможности самого ChatGPT.

Мишенью исследователей стал инструмент Deep Research из состава ChatGPT. Сперва Radware внедрила скрытую команду в электронное письмо, отправленное на почтовый адрес Gmail, к которому был доступ у ИИ-агента.

Когда пользователь запускал Deep Research, система автоматически натыкалась на «вредоносный» текст и начинала выполнять инструкции злоумышленников: искать письма и персональные данные, а затем пересылать их атакующим.

По словам исследователей, реализация атаки потребовала множества попыток. Алгоритмы OpenAI неоднократно блокировали вредоносные инструкции, и лишь после череды неудач удалось добиться стабильного результата.

Особенность атаки в том, что она выполнялась не на компьютере жертвы, а на облачной инфраструктуре OpenAI. Это делало атаку невидимой для традиционных систем защиты, обычно отслеживающих действия на устройствах пользователей.

Radware подчеркивает, что аналогичные уязвимости могут угрожать и другим сервисам, подключенным к Deep Research. OpenAI закрыла уязвимость, но вполне могут существовать и другие бреши в защите.