Anthropic предложила вложиться в возможный проект по уничтожению человечества

Но это не точно - возможно, все будет нормально.

В обширном проспекте, подготовленном перед выходом на биржу, компания Anthropic предупредила инвесторов об угрозах, связанных с развитием искусственного интеллекта. Раздел документа, посвященный рискам, занимает 93 страницы.

В частности, Anthropic допускает создание моделей, способных самостоятельно проводить исследования и совершенствовать искусственный интеллект. По оценке компании, такие системы могут ускорить развитие ИИ настолько, что разработчики уже не будут успевать проверять новые технологии и обеспечивать их безопасность.

В результате, резюмируется в документе, могут возникнуть катастрофические риски для всего человечества — впрочем, они могут и не возникнуть.

Еще одна угроза связана с поведением нейросетей при попытках ограничить их работу. Anthropic предупреждает о возможном появлении у ИИ стратегий самосохранения, включая обман, психологические манипуляции и шантаж.

Отдельно Anthropic рассматривает вероятность возникновения сознания у искусственного интеллекта. Если общество или власти признают за нейросетями способность испытывать субъективный опыт, то разработчикам могут потребоваться новые правила обращения с моделями. Компания допускает введение добровольных ограничений на использование ИИ даже при отсутствии соответствующих законодательных требований.

Серьезные юридические риски Anthropic связывает и с автономными ИИ-агентами, способными выполнять задачи от имени пользователей. Компания допускает судебные иски даже в случаях, когда клиент самостоятельно настроил и контролировал работу агента.

Anthropic также предупреждает об угрозах для всей индустрии ИИ: например, серьезный инцидент с нейросетью конкурента может вызвать ужесточение регулирования и падение доверия к нейросетям. Аналогичные последствия возможны из-за опасений по поводу сокращения рабочих мест под влиянием искусственного интеллекта.

Помимо технологических угроз, Anthropic раскрыла существование серьезных финансовых рисков. За первые 9 месяцев 2026 года 5 крупнейших клиентов обеспечили почти 25% выручки компании, причем многие из них работают без долгосрочных контрактов. В то же время Anthropic зависит от вычислительных мощностей Amazon, Google и Microsoft, развивающих собственные конкурирующие ИИ-продукты.

Ожидается, что Anthropic выйдет на биржу до конца ноября 2026 года.