Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

Создатели Grok объяснили, откуда взялся «Меха-Гитлер»

0
0
Поделиться
Телеграфировать

Разработчики модели постараются избежать таких инцидентов в будущем.

Создатели Grok объяснили, откуда взялся «Меха-Гитлер»

Компания xAI, принадлежащая Илону Маску, объяснила причины, из-за которых ее искусственный интеллект Grok начал публиковать антисемитские высказывания и хвалить Адольфа Гитлера в ответах пользователям X/Twitter.

По словам разработчиков, ИИ некорректно себя вел из-за технической ошибки. В систему были загружены устаревшие инструкции, призывающие ИИ быть максимально прямолинейным и не бояться задевать политкорректную аудиторию.

В результате Grok начал публиковать провокационные и этически спорные ответы, а также игнорировать другие системные ограничения, которые должны были предотвращать публикацию оскорбительного или экстремистского контента.

В xAI подчеркивают, что в проблеме виновата не сама языковая модель, а одна из связанных с ней систем. Компания исправила инструкции, новый системный промпт Grok будет опубликован на GitHub.

После инцидента разработчики Grok внедрили дополнительные системы для проверки новых релизов и наблюдения за активностью нейросети. Предполагается, что они помешают повторению таких инцидентов.

Читать далее
Сколько вы тратите на игры за год?
Больше 100000 рублей
941 голос, 6.4%
От 50000 до 100000 рублей
629 голосов, 4.3%
От 25000 до 50000 рублей
723 голоса, 4.9%
От 10000 до 25000 рублей
1272 голоса, 8.6%
До 10000 рублей
2832 голоса, 19.2%
Нисколько, я пират. Йо-хо-хо!
8316 голосов, 56.5%
Теги: Технологии
Аватар Evernews
Evernews
8080 подписчиков