СМИ: у OpenAI больше нет команды, занимающейся безопасностью супер-ИИ

Оставшихся сотрудников отправят в исследовательское подразделение.

Кстати, на сайте читать удобнее

В 2023 году стартап OpenAI создал команду супералаймента, разрабатывающую меры контроля для искусственного интеллекта сверхчеловеческого уровня. Теперь, пишет Bloomberg, эта команда фактически была расформирована.

По данным издания, это произошло после ухода из OpenAI главного научного сотрудника Ильи Суцкевера, поддерживавшего разработки в области контроля ИИ, и Яна Лейке, руководившего этой командой.

Оставшиеся сотрудники команда супералаймента, утверждает Bloomberg, будут «глубже интегрированы в исследовательские инициативы» OpenAI. Предполагается, что о полном отказе от изучения контроля супер-ИИ речь все-таки не идет.

Лейке и Суцкевер не стали подробно объяснять причины ухода из OpenAI. По словам источника Bloomberg, для Лейке последней каплей стал именно уход Суцкевера, ставшего инициатором создания команды супералаймента.

Сам Лейке пишет, что его команда сталкивалась с недостатком вычислительных ресурсов для исследований. По данным TechCrunch, изначально команде пообещали 20% всех вычислительных ресурсов OpenAI, но на деле запросы часто отклонялись.

В последние годы, утверждает Лейке, культура безопасности в OpenAI отошла на второй план: сейчас компания в первую очередь старается выпускать «блестящие продукты». Разработчик считает такую позицию неверной.

Уже давно нужно очень серьезно относиться к последствиям появления сильного искусственного интеллекта. Необходимо готовиться к его появлению так активно, как это только возможно. Только так можно будет гарантировать, что сильный ИИ будет работать во благо всего человечества.

Ян Лейке

Руководство OpenAI предметно не комментировало жалобы Лейке на недостаток ресурсов и смену фокуса в работе компании. Основатель OpenAI Сэм Альтман отметил, что компании нужно многое сделать в области безопасности и пообещал поговорить об этом в ближайшем будущем.