Вместе с вайб-кодерами появились вайб-хакеры

В Anthropic обнаружили, что ее нейросети используются не только во благо.

Компания Anthropic опубликовала отчет о киберугрозах, согласно которому современные «агентные» ИИ-системы становятся инструментом киберпреступников. В результате вместе с вайб-кодерами появились вайб-хакеры.

В Anthropic обнаружили, что злоумышленники научились использовать нейросеть Claude не только для написания текстов, но и для проведения целых операций, включая вымогательство, мошенничество и прохождение собеседований.

Одним из выявленных случаев стала атака на 17 организаций в разных странах. Преступная группировка использовала Claude для похищения данных у медицинских учреждений, служб экстренной помощи и обычных компаний.

В частности, с помощью ИИ злоумышленники составили персонализированные письма с угрозами и оценили рыночную стоимость украденной информации на черном рынке. Вымогатели намеревались получить свыше $500 тысяч.

В отчете приводится и другой пример: граждане Северной Кореи с помощью Claude устраивались на работу в крупные компании. Обычно такие схемы требуют подготовки и знания английского, однако ИИ позволил даже неподготовленным кандидатам успешно пройти технические собеседования.

После получения работы большая часть их обязанностей фактически выполнялась самим Claude. По данным Anthropic, полученные средства шли на финансирование оружейных программ КНДР.

Кроме того, согласно отчету, злоумышленники используют ИИ для анализа украденных данных, создания поддельных личностей, автоматизации вымогательских схем и подбора украденных банковских карт.

В Anthropic подчеркивают, что подобные угрозы касаются не только Claude, но и других ведущих моделей. Компания призвала коллег улучшать системы обнаружения незаконного поведения пользователей.