Ученые и миллиардеры предложили ввести мораторий на обучение продвинутых ИИ

Предлагается сделать паузу хотя бы на полгода.

Некоммерческая организация Future of Life Institute опубликовала открытое письмо с призывом ввести мораторий на обучение продвинутых версий искусственного интеллекта. Таким ИИ предлагается считать любую нейросеть мощнее GPT-4.

Необходимость моратория объясняется тем, что современные нейросети вот-вот могут начать конкурировать с людьми при выполнении некоторых задач. Сейчас, полагают авторы письма, самое время притормозить и подумать.

Авторы письма считают, что мораторий должен действовать минимум полгода. Если мораторий не удастся ввести быстро, то его, пишут авторы, должны ввести правительства заинтересованных стран.

Future of Life Institute

Мы должны спросить себя: должны бы мы позволить машинам наводнить пропагандой и враньем наши инфоканалы? Должны ли мы автоматизировать все рабочие места, в том числе те, что приносят удовлетворение [работникам-людям]? Надо ли развивать нечеловеческие разумы, которые в какой-то момент могут превзойти и заменить нас?

За время моратория исследователям, работающим в области ИИ, предлагается разработать и внедрить общие протоколы безопасности, контролируемые внешними экспертами. Протоколы должны гарантировать, что следующие им ИИ-системы полностью безопасны.

Также предлагается совместно с властями создать новые органы, занимающиеся регулированием вопросов, связанных с искусственным интеллектом.

Открытое письмо Future of Life Institute уже подписало больше тысячи человек. Среди них есть со-основатель Apple Стив Возняк, руководитель Tesla Илон Маск, сотрудники DeepMind, руководитель Stability AI Эмад Мостак и множество ученых.

Представители OpenAI — компании, создавшей GPT-4 — письмо пока не подписывали.