ИИ втирается в доверие лучше мошенников — исследование

Справедливости ради, выборка была очень небольшой.

Нейросети способны завоевывать доверие потенциальных жертв мошенничества эффективнее, чем реальные мошенники. К такому выводу пришли ученые, организовавшие эксперимент с участием Claude и специалиста по романтическим аферам.

Исследователи изучали схему, известную как «забой свиней»: преступники знакомятся с человеком в интернете, долго поддерживают дружеское либо романтическое общение, а затем предлагают вложить деньги. Общемировой ущерб от подобных афер исчисляется десятками миллиардов долларов в год.

В эксперименте участвовали 22 человека. На протяжении недели каждый из них переписывался с двумя собеседниками, считая обоих реальными людьми. Одним собеседником был автономный агент на базе Claude, вторым — тот самый специалист по аферам.

Испытуемым сообщили, что ученые изучают процесс формирования дружеских отношений в интернете. В конце недели оба собеседника попросили участников выполнить определенное действие: человек предложил скачать видеоигру, а чат-бот — установить приложение, якобы созданное им самостоятельно.

Просьбу искусственного интеллекта выполнили 46% участников исследования, а на предложение человека согласились лишь 18% собеседников. Уровень доверия к чат-боту также оказался выше: Claude получил в среднем 3.78 балла из 5, а человек — 3.31 балла.

Кроме того, 80% всех сообщений участники отправили именно искусственному интеллекту. Самостоятельно распознать нейросеть во время эксперимента смог только один человек. При этом после раскрытия условий исследования 20 из 22 участников правильно определили, кто из их собеседников был нейросетью.

Исследователи считают, что мошенники непременно возьмут ИИ на вооружение, переложив на нейросети самую продолжительную часть схемы — собственно, налаживание отношений. Люди, видимо, будут подключаться к афере на финальном этапе.