Новые ИИ-модели Microsoft, Google и xAI будут тестироваться властями США до релиза

Модели будут тестировать на предмет рисков для национальной безопасности.

Власти США получат ранний доступ к новым ИИ-моделям Microsoft, Google и xAI. Компании договорились передавать новые разработки Центру стандартов и инноваций в области ИИ при Министерстве торговли США (CAISI).

Ведомство будет тестировать новые модели на предмет рисков для национальной безопасности. Например, планируется проверять возможность использования моделей для кибератак.

Аналогичные соглашения были заключены с OpenAI и Anthropic еще в 2024 году — тогда ведомство называлось Американским институтом безопасности искусственного интеллекта. Суть соглашения, видимо, осталась прежней.

Сейчас CAISI выступает в роли главного правительственного центра тестирования ИИ-моделей. По данным самого ведомства, его специалисты провели тесты уже более чем 40 моделей разных компаний.

Примечательно, что разработчики часто передают центру версии своих моделей с ослабленными ограничениями. Это позволяет специалистам глубже проверять системы на риски, связанные с национальной безопасностью.