С помощью ИИ в Counter-Strike Global Offensive забанили 20 тысяч токсичных игроков за полтора месяца

Количество жалоб за тот же период сократилось на 20%.

В конце августа к Counter-Strike Global Offensive подключили искусственный интеллект Minerva, созданный компанией FACEIT: он предназначен для борьбы с токсичностью, спамом и неспортивным поведением. Спустя два месяца разработчики рассказали о первых результатах работы ИИ.

Перед развертыванием искусственный интеллект на протяжении нескольких месяцев проходил обучение: разработчики стремились минимизировать число ложных срабатываний. За это время было проанализировано свыше 200 миллионов сообщений в чате, 7 миллионов из них система пометила как токсичные.

ИИ, разработанный FACEIT, работает очень быстро. По оценке разработчиков, система принимает все решения уже через несколько секунд после окончания матча. В зависимости от поведения игрока он может получить либо предупреждение, либо бан.

В первые полтора месяца после полноценного запуска искусственный интеллект вынес 90 тысяч предупреждений и заблокировал 20 тысяч игроков. Блокировки и предупреждения выдавались как за токсичность, так и за спам.

После появления Minerva, пишут разработчики, чисто токсичных сообщений снизилось примерно на 20%. Кроме того, приблизительно на 8% уменьшилось количество уникальных игроков, посылающих такие сообщения.