ИИ, обученный на миллионах научных работ, должен был помочь ученым. Вышло наоборот
Демонстрацию пришлось приостановить через два дня после запуска.
Кстати, на сайте читать удобнее
Исследователи из Meta* AI запустили искусственный интеллект Galactica, призванный помочь ученым с систематизацией научных данных. Нейросеть, лежащая в основе Galactica, была обучена на 48 миллионах научных работ, учебников и статей со всего мира.
По словам исследователей, ИИ может решать математические задачи и делать выжимки из исследований. Ожидалось, что Galactica упростит ученым доступ к научной информации, выступая в роли своеобразной поисковой системы. Вышло иначе.
Демонстрационная версия Galactica была открыта для публики в середине ноября. Быстрой выяснилось, что искусственный интеллект не очень разбирается в том, о чем говорит; профессор биологии Вашингтонского университета Карл Бергстрем назвал ИИ «генератором случайного бреда».
Вот несколько примеров некорректной работы ИИ, которые приводит CNET:
- Нейросеть утверждала, что вакцинация одновременно и вызывает, и не вызывает аутизм.
- Galactica не считала, что выражение 1 + 2 = 3 корректно.
- ИИ генерировал бессмысленные конспекты лекций по биологии костей, предположительно самостоятельно генерируя многие цитаты.
В результате через два дня после запуска демонстрационной версии Galactica создатели нейросети объявили о «приостановке» на неопределенный срок. Команда проекта не стала давать комментарии по этому поводу.
* Принадлежит компании Meta, признанной в России экстремистской организацией.