Anthropic взяла на работу экономиста, считающего допустимой 33% вероятность гибель человечества из-за ИИ

Предполагается, что взамен мы получим некий экономический рост.

Компания Anthropic, развивающая семейство нейросетей Claude, взяла на работу бывшего профессора экономики Стэнфорда Чеда Джонса. В одной из своих работ он рассматривал сценарий, при котором быстрый прогресс ИИ создаст экзистенциальный риск для человечества.

Джонс попытался оценить, какой уровень такого риска может считаться «оптимальным» с точки зрения экономической модели. В расчетах Джонса фигурировал сценарий, где вероятность гибели человечества составляет 1% в год на протяжении 40 лет.

При таких вводных шанс пережить период взрывного развития ИИ экономист оценивал примерно в 67%, человечество гибло с вероятностью в 33%. В случае выживания резко рос уровень жизни, в таких условиях экономист считал риск допустимым.

О том, чем Джонс будет заниматься в Anthropic, не сообщается. Помимо разработчиков у компании есть штат экономистов и других ученых, оценивающих влияние развития ИИ на современное общество; видимо, Джонс присоединился к этой команде.