Все новости
Это интересно
Сейчас читают
Наука
Аватар Evernews Evernews

Медицинские ИИ дискриминируют женщин и меньшинства — исследование

3
0
Поделиться
Телеграфировать

По какой-то причине нейросети дают таким пациентам худшие рекомендации.

Медицинские ИИ дискриминируют женщин и меньшинства — исследование

Ученые из США и Великобритании обнаружили, что большие языковые модели, применяемые в медицинских сервисах, занижают серьезность симптомов у женщин и проявляют меньше эмпатии к пациентам из числа этнических меньшинств.

Исследования Массачусетского технологического института показали, что модели GPT-4, Llama 3 и Palmyra-Med нередко советовали женщинам лечиться самостоятельно вместо обращения к врачу.

Схожие выводы сделала Лондонская школа экономики. Ученые обнаружили, что модель Google Gemma, используемая в социальной сфере Великобритании, систематически занижала значимость жалоб женщин по сравнению с мужчинами.

В другом эксперименте ответы GPT-4, Llama 3 и Palmyra-Med на запросы о психическом здоровье звучали заметно менее сочувственно, если пациенты были азиатами или темнокожими.

Кроме того, выяснилось, что пациенты, писавшие с опечатками или странно формулировавшие то, что им нужно, на 7-9% чаще получали рекомендации не обращаться за медицинской помощью.

Исследователи связывают проблему с качеством исходных данных. Большинство моделей обучается на текстах из интернета, где регулярно высказываются определенные стереотипы. В результате ИИ, обученные на таких датасетах, могут вести себя не вполне корректно.

Компании-разработчики признают наличие проблемы. OpenAI заявила, что большинство исследований основано на ранних версиях GPT-4, а современные версии значительно улучшены. Google утверждает, что очень серьезно относится к риску дискриминации и внедряет методы защиты данных.

Читать далее
Сколько вы тратите на игры за год?
Больше 100000 рублей
992 голоса, 6.4%
От 50000 до 100000 рублей
668 голосов, 4.3%
От 25000 до 50000 рублей
781 голос, 5.0%
От 10000 до 25000 рублей
1335 голосов, 8.6%
До 10000 рублей
2972 голоса, 19.1%
Нисколько, я пират. Йо-хо-хо!
8791 голос, 56.6%
Теги: Наука, Технологии
Аватар Evernews
Evernews
8080 подписчиков