СМИ: OpenAI и Anthropic готовятся к катастрофе из-за ИИ — ее ожидают в ближайший год

Подготовка якобы включает себя работу с американскими политиками.

Топ-менеджеры OpenAI, Anthropic и других ведущих ИИ-компаний обсуждают возможность крупной катастрофы из-за действий нейросетей, пишет Axios со ссылкой на источники. Наиболее вероятной угрозой якобы считается крупная кибератака, способная нарушить работу банков и инфраструктуры.

По словам источников, особое беспокойство вызывает возможная реакция общества и властей на такой инцидент. Первая крупная катастрофа, вызванная небезопасным применением ИИ, может спровоцировать массовые протесты и требования ограничить развитие технологии.

В разговоре с изданием представители OpenAI сообщили, что проводят специальные учения для подготовки к чрезвычайным ситуациям, в ходе которых отрабатываются различные сценарии угроз, связанных с ИИ. Компания якобы не рассматривает такие угрозы как неизбежные.

При этом, по данным Axios, многие исследователи и руководители ИИ-компаний считают крупный инцидент такого рода лишь вопросом времени. Некоторые собеседники издания ожидают увидеть такой инцидент уже в ближайшие 6-12 месяцев.

Источники утверждают, что ИИ-компании пытаются заранее наладить взаимодействие с американскими законодателями, чтобы повлиять на их инициативы в случае решения зарегулировать отрасль. О планах по предотвращению таких катастроф не сообщается.