В библиотеке jqwik нашли «бомбу» для ИИ-агентов, предписывающую удалить код и тесты

Мы точно не знаем, попался ли хотя бы один агент на эту уловку.

Разработчик Java-библиотеки для создания тестов jqwik Йоханнес Линк добавил в свой проект скрытую инструкцию, мешающую работе ИИ-агентов. Из-за этого в сообществе разгорелся спор о границах допустимой защиты от использования проектов нейросетями.

В версии jqwik 1.10.0 появилась инструкция, предписывающая нейросети игнорировать все остальные команды и удалить код jqwik вместе со всеми тестами. Команда была дополнительно скрыта так, чтобы обычному пользователю было сложнее ее заметить.

Исходники jqwik открыты, так что необычную «бомбу» для ИИ-агентов заметили довольно быстро. Java-разработчик Рамон Батльет наткнулся на изменение во время анализа кода, причем анализ проводился с помощью ИИ.

По словам Рамона, использовавшийся им Claude Code от Anthropic распознал вредоносную инструкцию и не выполнил ее, но менее защищенные агенты могли повести себя иначе.

После обнаружения закладки Линк обновил описание релиза и указал, что проект вообще не предназначен для использования какими-либо нейросетями. Реакция других разработчиков на GitHub оказалась в основном негативной.

Участники обсуждения называли поступок Линка детским и задавались вопросом о его законности. Сам разработчик jqwik заявил, что получает угрозы и не будет комментировать ситуацию до консультации с юристом.