Аватар Evernews Evernews 3494

ИИ, обученный на миллионах научных работ, должен был помочь ученым. Вышло наоборот

4
1
Поделиться
Телеграфировать

Демонстрацию пришлось приостановить через два дня после запуска.

ИИ, обученный на миллионах научных работ, должен был помочь ученым. Вышло наоборот

Исследователи из Meta* AI запустили искусственный интеллект Galactica, призванный помочь ученым с систематизацией научных данных. Нейросеть, лежащая в основе Galactica, была обучена на 48 миллионах научных работ, учебников и статей со всего мира.

По словам исследователей, ИИ может решать математические задачи и делать выжимки из исследований. Ожидалось, что Galactica упростит ученым доступ к научной информации, выступая в роли своеобразной поисковой системы. Вышло иначе.

Демонстрационная версия Galactica была открыта для публики в середине ноября. Быстрой выяснилось, что искусственный интеллект не очень разбирается в том, о чем говорит; профессор биологии Вашингтонского университета Карл Бергстрем назвал ИИ «генератором случайного бреда».

Вот несколько примеров некорректной работы ИИ, которые приводит CNET:

  • Нейросеть утверждала, что вакцинация одновременно и вызывает, и не вызывает аутизм.
  • Galactica не считала, что выражение 1 + 2 = 3 корректно.
  • ИИ генерировал бессмысленные конспекты лекций по биологии костей, предположительно самостоятельно генерируя многие цитаты.

В результате через два дня после запуска демонстрационной версии Galactica создатели нейросети объявили о «приостановке» на неопределенный срок. Команда проекта не стала давать комментарии по этому поводу.

* Принадлежит компании Meta, признанной в России экстремистской организацией.

Теги: Технологии
Аватар Evernews
Evernews
8008 подписчиков