Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

Медицинский ИИ Google поставил диагноз по вымышленной части мозга — возможно, виноваты сами медики

2
0
Поделиться
Телеграфировать

В компании говорят, что это просто опечатка, но врачи настроены скептически.

Медицинский ИИ Google поставил диагноз по вымышленной части мозга — возможно, виноваты сами медики

В мае 2024 года исследователи Google опубликовали научную работу, посвященную медицинскому ИИ Med-Gemini. Оказалось, работа содержит ошибку, ставящую возможности нейросети под вопрос.

Дело в том, что Med-Gemini поставила диагноз на основе несуществующей анатомической структуры мозга, basilar ganglia. Вероятнее всего, речь шла о basal ganglia, важной зоне мозга, отвечающей за моторику, эмоции и обучение.

Ошибку впервые обнаружил невролог и исследователь ИИ Брайан Мур. Он рассказал о проблеме в LinkedIn, после чего Google тихо отредактировала текст в своем блоге, посвященный Med-Gemini, но не стала вносить изменения в саму научную работу.

По словам представителей Google, ошибка была простой опечаткой и не повлияла на смысл диагноза. Врачи, с которыми пообщалась The Verge, считают иначе. Собеседники издания называют произошедшее тревожным сигналом.

Дело в том, что по мере распространения медицинских ИИ врачи могут перестать замечать их ошибки, особенно если в большинстве случаев ИИ демонстрирует высокий уровень точности. В теории такие незаметные ошибки могут представлять опасность для пациентов.

Само появление basilar ganglia в Google объясняют ошибкой самих медиков. Нейросеть обучалась на обезличенных медицинских данных, согласно заявлению Google, basilar ganglia вместо basal ganglia часто упоминается в реальных документах.

В разговоре с изданием представители Google отметили, что сотрудничают с медицинским сообществом и предупреждают об ограничениях своих моделей. Компания работает над улучшением медицинского ИИ.

Понравились наши истории?
Скорее добавляйте WTFTime.ru в предпочтительные источники Google — и мы всегда будем рядом.
Читать далее
Сколько вы тратите на игры в год?
Больше 100000 рублей
2215 голосов, 7.1%
От 50000 до 100000 рублей
1422 голоса, 4.6%
От 25000 до 50000 рублей
1689 голосов, 5.4%
От 10000 до 25000 рублей
2810 голосов, 9.1%
До 10000 рублей
5763 голоса, 18.6%
Нисколько, я пират. Йо-хо-хо!
17113 голосов, 55.2%
Теги: Технологии
Аватар Evernews
Evernews
8091 подписчик