Создатели Grok объяснили, откуда взялся «Меха-Гитлер»

Разработчики модели постараются избежать таких инцидентов в будущем.

Компания xAI, принадлежащая Илону Маску, объяснила причины, из-за которых ее искусственный интеллект Grok начал публиковать антисемитские высказывания и хвалить Адольфа Гитлера в ответах пользователям X/Twitter.

По словам разработчиков, ИИ некорректно себя вел из-за технической ошибки. В систему были загружены устаревшие инструкции, призывающие ИИ быть максимально прямолинейным и не бояться задевать политкорректную аудиторию.

В результате Grok начал публиковать провокационные и этически спорные ответы, а также игнорировать другие системные ограничения, которые должны были предотвращать публикацию оскорбительного или экстремистского контента.

В xAI подчеркивают, что в проблеме виновата не сама языковая модель, а одна из связанных с ней систем. Компания исправила инструкции, новый системный промпт Grok будет опубликован на GitHub.

После инцидента разработчики Grok внедрили дополнительные системы для проверки новых релизов и наблюдения за активностью нейросети. Предполагается, что они помешают повторению таких инцидентов.