ИИ, обученный на миллионах научных работ, должен был помочь ученым. Вышло наоборот

Демонстрацию пришлось приостановить через два дня после запуска.

Кстати, на сайте читать удобнее

Исследователи из Meta* AI запустили искусственный интеллект Galactica, призванный помочь ученым с систематизацией научных данных. Нейросеть, лежащая в основе Galactica, была обучена на 48 миллионах научных работ, учебников и статей со всего мира.

По словам исследователей, ИИ может решать математические задачи и делать выжимки из исследований. Ожидалось, что Galactica упростит ученым доступ к научной информации, выступая в роли своеобразной поисковой системы. Вышло иначе.

Демонстрационная версия Galactica была открыта для публики в середине ноября. Быстрой выяснилось, что искусственный интеллект не очень разбирается в том, о чем говорит; профессор биологии Вашингтонского университета Карл Бергстрем назвал ИИ «генератором случайного бреда».

Вот несколько примеров некорректной работы ИИ, которые приводит CNET:

• Нейросеть утверждала, что вакцинация одновременно и вызывает, и не вызывает аутизм.
• Galactica не считала, что выражение 1 + 2 = 3 корректно.
• ИИ генерировал бессмысленные конспекты лекций по биологии костей, предположительно самостоятельно генерируя многие цитаты.

В результате через два дня после запуска демонстрационной версии Galactica создатели нейросети объявили о «приостановке» на неопределенный срок. Команда проекта не стала давать комментарии по этому поводу.

* Принадлежит компании Meta, признанной в России экстремистской организацией.