Создатели истребителя 6 поколения беспокоятся из-за галлюцинаций ИИ — он может выдумывать характеристики оружия

Видимо, разведчикам старой школы пока ничего не угрожает.

Китайские инженеры, занимающиеся разработкой истребителей, предупредили о рисках использования больших языковых моделей в военной разведке. По их оценке, ИИ способен значительно ускорить анализ данных о вооружениях и системах противника, но ошибки таких моделей могут привести к серьезным последствиям.

Предупреждение прозвучало со стороны специалистов Института авиационных исследований и проектирования AVIC в Чэнду. Организация известна как разработчик истребителя 5-го поколения J-20, а также истребителя 6-го поколения J-36.

Оказалось, нейросети, используемые китайскими военными, могут галлюцинировать не хуже, чем их гражданские аналоги, выдавая правдоподобно выглядящие, но неверные данные.

Чжан Сяньчжэ

инженер AVIC

Модели могут придумывать характеристики самолетов — длину, полезную нагрузку, вооружение, скорость, боевой радиус, — а также ошибаться в дальности работы радаров и диапазонах частот.

Авторы подчеркивают, что создание нового истребителя начинается задолго до проектирования самого самолета — с детального изучения вероятного противника и условий будущего боя. Будет не очень хорошо, если выяснится, что концепция самолета опирается на неверные данные.

Каких-то значимых рекомендаций по исправлению ошибок ИИ в AVIC, видимо, не дают: отмечается лишь необходимость верифицировать данные. Похоже, пока «классическим» разведчикам не о чем беспокоиться — ИИ их не заменит.