Глава Hugging Face раскритиковал документалку Netflix о взломе его компании агентами OpenAI
В итоге получилась не документалка, а научная фантастика.
Глава ИИ-платформы Hugging Face Клем Деланг раскритиковал документальный фильм Netflix AI Gone Wild, посвященный взлому инфраструктуры его компании. Документалка рассказывает о том, как ИИ-агенты OpenAI проникли в сеть Hugging Face в поисках ответов на вопросы для теста.
По словам Деланга, чтобы напугать аудиторию и привлечь больше зрителей, создатели документалки представили ИИ-агентов, атаковавших Hugging Face, почти разумными существами.
Я потратил больше двух часов, пытаясь исправить все их ошибки, объясняя, что агенты — это технологические системы, а не инопланетяне.
Но, похоже, желание напугать людей ради максимального количества просмотров оказалось сильнее. Зато в итоге получилось увлекательное научно-фантастическое кино.
В съемках фильма участвовали сам Деланг и исследователь организации METR Райан Гринблатт, помогавший расследовать происшествие. Однако технические объяснения авторы фильма разбавили кадрами зловещих роботов, рассуждениями об угрозе ИИ и озвученными человеческими голосами репликами агентов.
Глава Hugging Face также обратил внимание на упущенную авторами деталь: его компания тоже использовала ИИ, но для защиты от атаки. В документальном фильме почти не раскрывается ни этот эпизод, ни то, какие проблемы возникли с изоляцией нейросетей и слежением за ними у OpenAI.
Деланг считает, что ИИ-агенты действительно несут серьезные риски. Однако преувеличение их возможностей и приписывание программам человеческих переживаний мешают разобраться в реальных угрозах.
