Anthropic отключила новые модели Claude Fable 5 и Mythos 5 по приказу властей США

Модели попали под экспортные ограничения.

Компания Anthropic закрыла доступ к новым ИИ-моделям Claude Fable 5 и Mythos 5 через несколько дней после их запуска. Компания объяснила такое решение требованием Министерства торговли США.

По словам представителей Anthropic, новые модели попали под экспортные ограничения, запрещающие их использование за пределами Соединенных Штатов. Чтобы немедленно выполнить распоряжение властей, компания решила отключить Fable 5 и Mythos 5 для всех клиентов.

Предполагается, что ограничение было наложено из-за сообщений о возможности снятия ограничений с модели Fable 5. После этого модель якобы игнорирует системы защиты при обсуждении чувствительных тем.

Anthropic не согласна с оценкой угрозы. Компания утверждает, что получила от правительства только «устные свидетельства потенциального неуниверсального джейлбрейка». По ее версии, речь идет о конкретном сценарии, в котором Fable 5 заставляют анализировать кодовую базу и искать программные ошибки.

Anthropic подчеркивает, что видела доказательства использования такого метода лишь для поиска «незначительных» и «относительно простых» уязвимостей. В своем заявлении компания отметила, что выполняет юридически обязательную директиву, но считает реакцию властей чрезмерной.

Компания пообещала раскрыть дополнительные подробности в течение 24 часов. Пока не вполне ясно, когда модели Fable 5 и Mythos 5 снова станут доступны хотя бы в США.