Ученые и миллиардеры предложили ввести мораторий на обучение продвинутых ИИ

Предлагается сделать паузу хотя бы на полгода.

Кстати, на сайте читать удобнее

Некоммерческая организация Future of Life Institute опубликовала открытое письмо с призывом ввести мораторий на обучение продвинутых версий искусственного интеллекта. Таким ИИ предлагается считать любую нейросеть мощнее GPT-4.

Необходимость моратория объясняется тем, что современные нейросети вот-вот могут начать конкурировать с людьми при выполнении некоторых задач. Сейчас, полагают авторы письма, самое время притормозить и подумать.

Авторы письма считают, что мораторий должен действовать минимум полгода. Если мораторий не удастся ввести быстро, то его, пишут авторы, должны ввести правительства заинтересованных стран.

Мы должны спросить себя: должны бы мы позволить машинам наводнить пропагандой и враньем наши инфоканалы? Должны ли мы автоматизировать все рабочие места, в том числе те, что приносят удовлетворение [работникам-людям]? Надо ли развивать нечеловеческие разумы, которые в какой-то момент могут превзойти и заменить нас?

Future of Life Institute

За время моратория исследователям, работающим в области ИИ, предлагается разработать и внедрить общие протоколы безопасности, контролируемые внешними экспертами. Протоколы должны гарантировать, что следующие им ИИ-системы полностью безопасны.

Также предлагается совместно с властями создать новые органы, занимающиеся регулированием вопросов, связанных с искусственным интеллектом.

Открытое письмо Future of Life Institute уже подписало больше тысячи человек. Среди них есть со-основатель Apple Стив Возняк, руководитель Tesla Илон Маск, сотрудники DeepMind, руководитель Stability AI Эмад Мостак и множество ученых.

Представители OpenAI — компании, создавшей GPT-4 — письмо пока не подписывали.