Исследование: ИИ пишет очень эффективные мошеннические письма

И справляется с этим гораздо быстрее, чем люди.

Большие языковые модели хорошо справляются с написанием мошеннических писем для фишинговых схем. К такому выводу пришли исследователи, протестировавшие возможности GPT-4o и Claude 3.5 Sonnet в области генерации фишинговых писем.

В эксперименте поучаствовал 101 доброволец. Их разбили на четыре группы, каждой из которых предложили оценить фишинговые письма из разных источников:

• Контрольная группа: случайно выбранные письма.
• Группа №1: письма, написанные экспертами-людьми.
• Группа №2: письма, сгенерированные ИИ.
• Группа №3: письма, сгенерированные ИИ при участии людей.

Самая высокая кликабельность ссылок (56%) была у писем из последней группы. Письма из 2 и 3 групп набрали одинаковую кликабельность (54%), у контрольной группы кликабельность была самой низкой (12%).

Таким образом, автоматическая генерация фишинговых писем с помощью современных моделей, проводящаяся без участия человека, показывает такую же эффективность, как создание писем с помощью экспертов-людей. При этом генерация стоит дешевле и происходит гораздо быстрее.

Примечательно, что по одному из показателей доверия письма, созданные только с помощью ИИ, превзошли тексты, написанные экспертами.

Языковым моделям, заключают исследователи, удалось создавать правдоподобные письма, побуждающие читателей переходить по ссылкам и не вызывающие слишком уж больших подозрений. Вероятно, по мере повышения качества моделей эффективность таких писем также возрастет.

Также исследователи отмечают, что генерация фишинговых писем с помощью ИИ позволяет обходить спам-фильтры, работающие на базе определенных сигнатур. ИИ-фишинг авторы исследования называют «крайне эффективным и экономически выгодным».