Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

ИИ-агенты открыли новый путь для хакеров: модели слишком верят друг другу

0
0
Поделиться
Телеграфировать

Настало время подумать о безопасности протокола MCP.

ИИ-агенты открыли новый путь для хакеров: модели слишком верят друг другу

Распространение ИИ-агентов в корпоративной среде привело к появлению нового класса атак, при котором вредоносные инструкции могут переходить от одного внутреннего агента к другому. В основе атак лежит промпт-инъекция, нацеленная на специализированного ИИ-агента — например, переводчика.

Как правило, защитные механизмы таких агентов слабее, чем у полноценных систем. Получив вредоносную инструкцию, агент может передать ее следующей системе как обычную служебную задачу, а та выполнит команду, поскольку доверяет агенту, отправившему запрос.

Исследователь Сайед Анас Мохиуддин связал эту проблему с Model Context Protocol, стандартом обмена данными между ИИ-приложениями и агентами. Внутренние компоненты такой инфраструктуры часто настроены на взаимное доверие. В результате вредоносная команда получает шанс добраться до другого агента через доверенную цепочку.

Основная проблема заключается в архитектуре современных агентных систем: протокол MCP получил широкое распространение еще до того, как участники рынка успели как следует подумать о его безопасности. Теперь, видимо, этим придется заниматься по живому.

От проблем с безопасностью MCP страдают в том числе и крупные компании: например, уязвимости были найдены в инфраструктурах Google и JPMorgan Chase. Вероятно, безопасность протокола будет повышаться довольно быстро.

Понравились наши истории?
Скорее добавляйте WTFTime.ru в предпочтительные источники Google — и мы всегда будем рядом.
Читать далее
GTA VI будет стоить $80 — берем?
Берем сразу Ultimate за $100
215 голосов, 18.7%
Берем базовое издание
98 голосов, 8.5%
Ждем скидку, и вот тогда — берем
77 голосов, 6.7%
Подождем выхода на ПК и возьмем бесплатно
476 голосов, 41.3%
Вообще не буду в нее играть
286 голосов, 24.8%
Теги: Технологии
Аватар Evernews
Evernews
8091 подписчик