Пользователи ИИ считают себя умнее, но на самом деле нет — исследование

Нейросети снабжают пользователей иллюзией компетентности.

Исследователи из Финляндии, Германии и Канады пришли к выводу, что использование сервисов на базе ИИ существенно влияет на способность человека адекватно оценивать собственные знания.

Такой вывод делается на основе экспериментальных данных, полученных с помощью 500 добровольцев. Участники эксперимента решали задачи на логическое мышление, аналогичные тем, что используются в тестах для поступления в юридические вузы США.

Половина испытуемых могла пользоваться ChatGPT, другая половина выполняла задания самостоятельно. После завершения теста участников попросили оценить свои результаты и уровень владения ИИ-сервисом.

Ученые обнаружили, что активное взаимодействие с чат-ботами почти устраняет эффект Даннинга-Крюгера. Это психологический феномен, из-за которого неопытные люди переоценивают свои способности, а компетентные их занижают.

Пользователи ChatGPT действительно справлялись с задачами лучше, однако были гораздо менее точны в оценке своих навыков. Они чаще переоценивали собственные способности, полагаясь на корректность ответов, предоставленных ИИ.

Как объясняют авторы исследования, такое поведение связано с явлением когнитивной разгрузки, когда человек перестает активно анализировать задачу, доверяя первому полученному ответу. В результате уменьшается разрыв между сильными и слабыми участниками: искусственный интеллект выравнивает общий уровень решений.

Чтобы уменьшить этот эффект, исследователи предлагают изменить принципы работы чат-ботов. Нейросети могут побуждать пользователей к самопроверке и анализу: например, задавая встречные вопросы или отображая уровень уверенности модели в собственных выводах.