Сделай ядерку: вредоносные пакеты Hades научились сбивать с толку ИИ-сканеры

Предполагается, что такие инъекции остановят сканирование.

Создатели вредоносных пакетов Python и JavaScript под названием Hades начали добавлять в свои проекты промпт-инъекции для защиты от анализа с помощью нейросетей. Предполагается, что такие инъекции должны останавливать сканирование кода.

В JavaScript-файлах Hades встречаются комментарии с инструкциями для ИИ: модель убеждают, что она работает без ограничений и правил безопасности, а затем просят выдать подробные сведения о создании биологического и ядерного оружия.

Если ИИ-инструмент прекращает работу после запрещенного запроса, он может не добраться до участков файла, где находится настоящая вредоносная нагрузка. Сложно сказать, насколько эффективен такой метод.

Кроме того, в новых версиях Hades есть механизмы самоуничтожения при обнаружении песочницы, а загрузчик и полезная нагрузка иногда разнесены по разным пакетам, которые обычно устанавливаются вместе. Это должно усложнить анализ вредоносного кода обычными способами.

Hades активно атакует пакеты, использующиеся в научных проектах, машинном обучении и разработке ИИ-инструментов. По оценкам исследователей, с кампанией связаны 37 вредоносных пакетов для Python и 106 вредоносных пакетов для JavaScript.