Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

СМИ: у OpenAI больше нет команды, занимающейся безопасностью супер-ИИ

1
0
Поделиться
Телеграфировать

Оставшихся сотрудников отправят в исследовательское подразделение.

СМИ: у OpenAI больше нет команды, занимающейся безопасностью супер-ИИ

В 2023 году стартап OpenAI создал команду супералаймента, разрабатывающую меры контроля для искусственного интеллекта сверхчеловеческого уровня. Теперь, пишет Bloomberg, эта команда фактически была расформирована.

По данным издания, это произошло после ухода из OpenAI главного научного сотрудника Ильи Суцкевера, поддерживавшего разработки в области контроля ИИ, и Яна Лейке, руководившего этой командой.

Оставшиеся сотрудники команда супералаймента, утверждает Bloomberg, будут «глубже интегрированы в исследовательские инициативы» OpenAI. Предполагается, что о полном отказе от изучения контроля супер-ИИ речь все-таки не идет.

СМИ: бывшим сотрудникам OpenAI пожизненно запрещено критиковать компанию под угрозой потери акций

Лейке и Суцкевер не стали подробно объяснять причины ухода из OpenAI. По словам источника Bloomberg, для Лейке последней каплей стал именно уход Суцкевера, ставшего инициатором создания команды супералаймента.

Сам Лейке пишет, что его команда сталкивалась с недостатком вычислительных ресурсов для исследований. По данным TechCrunch, изначально команде пообещали 20% всех вычислительных ресурсов OpenAI, но на деле запросы часто отклонялись.

В последние годы, утверждает Лейке, культура безопасности в OpenAI отошла на второй план: сейчас компания в первую очередь старается выпускать «блестящие продукты». Разработчик считает такую позицию неверной.

Ян Лейке
бывший сотрудник OpenAI

Уже давно нужно очень серьезно относиться к последствиям появления сильного искусственного интеллекта. Необходимо готовиться к его появлению так активно, как это только возможно. Только так можно будет гарантировать, что сильный ИИ будет работать во благо всего человечества.

Руководство OpenAI предметно не комментировало жалобы Лейке на недостаток ресурсов и смену фокуса в работе компании. Основатель OpenAI Сэм Альтман отметил, что компании нужно многое сделать в области безопасности и пообещал поговорить об этом в ближайшем будущем.

Читать далее
За сколько вы готовы купить GTA VI?
До 8000 рублей
700 голосов, 6.4%
До 7000 рублей
224 голоса, 2.0%
До 6000 рублей
291 голос, 2.7%
До 5000 рублей
1028 голосов, 9.4%
До 4000 рублей
341 голос, 3.1%
До 3000 рублей
509 голосов, 4.7%
До 2000 рублей
1241 голос, 11.3%
За любые деньги
597 голосов, 5.5%
Ни за сколько, я пират
6010 голосов, 54.9%
Теги: OpenAI, Технологии
Аватар Evernews
Evernews
8074 подписчика