Создатели истребителя 6 поколения беспокоятся из-за галлюцинаций ИИ — он может выдумывать характеристики оружия
Видимо, разведчикам старой школы пока ничего не угрожает.
Китайские инженеры, занимающиеся разработкой истребителей, предупредили о рисках использования больших языковых моделей в военной разведке. По их оценке, ИИ способен значительно ускорить анализ данных о вооружениях и системах противника, но ошибки таких моделей могут привести к серьезным последствиям.
Предупреждение прозвучало со стороны специалистов Института авиационных исследований и проектирования AVIC в Чэнду. Организация известна как разработчик истребителя 5-го поколения J-20, а также истребителя 6-го поколения J-36.
Оказалось, нейросети, используемые китайскими военными, могут галлюцинировать не хуже, чем их гражданские аналоги, выдавая правдоподобно выглядящие, но неверные данные.
Модели могут придумывать характеристики самолетов — длину, полезную нагрузку, вооружение, скорость, боевой радиус, — а также ошибаться в дальности работы радаров и диапазонах частот.
Авторы подчеркивают, что создание нового истребителя начинается задолго до проектирования самого самолета — с детального изучения вероятного противника и условий будущего боя. Будет не очень хорошо, если выяснится, что концепция самолета опирается на неверные данные.
Каких-то значимых рекомендаций по исправлению ошибок ИИ в AVIC, видимо, не дают: отмечается лишь необходимость верифицировать данные. Похоже, пока «классическим» разведчикам не о чем беспокоиться — ИИ их не заменит.
