ИИ-кластер xAI собрали за 19 дней — в 76 раз быстрее обычного

Теперь компания может заняться тренировкой своих моделей.

Стартап xAI Илона Маска сумел за 19 дней собрать и запустить ИИ-кластер на базе 100 тысяч ускорителей Nvidia H200. По словам руководителя Nvidia Хуана Жэньсюня, команда xAI справилась с задачей гораздо быстрее, чем это обычно бывает.

Для этого Маску и его команде, отмечает Хуан Жэньсюнь, пришлось приложить «сверхчеловеческие» усилия. Менее чем за 3 недели удалось подготовить площадку, доставить оборудование, все смонтировать и прогнать на кластере тестовые задачи.

Обычно, объясняет топ-менеджер, сопоставимый объем работ проделывают примерно за четыре года. Таким образом, команда xAI выполнила задачу по запуску ИИ-кластера примерно в 76 раз быстрее обычного.

В среднем, рассказывает Жэньсюнь, три года уходит на планирование кластера, а четвертый год требуется для реализации проекта: доставки оборудования, его установки, настройки и так далее.

По словам Хуана Жэньсюня, еще ни одному из партнеров Nvidia не удавалось запустить такой большой кластер на базе H200 с такой скоростью. Топ-менеджер ожидает, что xAI будет очень долго удерживать этот рекорд.

Стартап xAI работает над собственными большими языковыми моделями, конкурируя с OpenAI. Сейчас модели xAI в основном используются в X/Twitter, еще одной компании Маска.

Получение мощного кластера позволит xAI активнее обучать более сложные модели. Если судить по публичной информации, то с точки зрения вычислительной мощности xAI уже обгоняет OpenAI.