OpenAI впервые запустила модель на процессорах Cerebras — она выдает свыше 1000 токенов в секунду

Предыдущая версия модели была примерно в 15 раз медленнее.

Компания OpenAI объявила о выпуске модели GPT-5.3-Codex-Spark, в первую очередь предназначенной для генерации кода. Это первая модель OpenAI, работающая не на ускорителях Nvidia.

Для инференса GPT-5.3-Codex-Spark используются процессоры Cerebras — компания недавно заключила с OpenAI партнерское соглашение. Благодаря своей архитектуре и гигантскому количеству ядер чипы Cerebras очень быстро обрабатывают запросы к модели.

По данным самой OpenAI, GPT-5.3-Codex-Spark выдает свыше 1000 токенов в секунду, это примерно в 15 раз быстрее, чем у предыдущей версии Codex. Разработки конкурентов тоже работают медленнее. Например, ускоренный режим модели Claude Opus 4.6 от Anthropic выдает меньше 200 токенов в секунду.

Сама модель Spark основана на версии GPT-5.3-Codex, но дополнительно оптимизирована под увеличение скорости генерации. Модель специально дообучалась для программирования.

Сейчас доступ к GPT-5.3-Codex-Spark есть только у подписчиков ChatGPT Pro и ограниченного количества партнеров, работающих через API. Модель может работать с контекстом до 128 тысяч токенов.