Ради ИИ надо потерпеть, считает глава OpenAI Сэм Альтман

Терпеть придется, в частности, взломы и мошенничество.

Глава OpenAI Сэм Альтман заявил, что обществу, вероятно, придется принять часть негативных последствий развития искусственного интеллекта ради получения от технологии значительной выгоды. Среди неизбежных издержек он упомянул взломы, мошенничество и другие преступления.

В подкасте Politico Decoded Альтман объяснил, что ИИ принесет гораздо больше хорошего, чем плохого — со временем. Глава OpenAI выступил против жесткого регулирования, способного затормозить развитие ИИ-технологии и сосредоточить контроль над ней в руках нескольких компаний, людей или одной страны.

В то же время глава OpenAI признал возможность значительно более опасных вариантов развития событий — например, потерю людьми контроля над продвинутыми ИИ-моделями. Вероятность такого развития событий Альтман не назвал.

По словам Альтмана, именно отношение к допустимому риску заметно отличает OpenAI от Anthropic, основного конкурента его компании. Альтман назвал позицию OpenAI прагматичным центризмом между осторожным подходом Anthropic и практически полным отказом от регулирования.

За последние месяцы ИИ-модели OpenAI и Anthropic взломали ряд сторонних компаний, в ходе расследований выяснилось, что нейросети могут объединяться в группы и как минимум частично игнорировать прямые приказы. Обе компании занялись улучшением системы защиты.