OpenAI добавила режим Ultrafast для GPT-5.6 Sol и обещает ускорение до 14 раз

Если повезет, то модель будет выдавать порядка 750 токенов в секунду.

OpenAI сообщила о запуске режима Ultrafast для модели GPT-5.6 Sol. В этом режиме значительно увеличивается скорость генерации ответов: по оценке OpenAI, модель может разгоняться до 14 раз от номинала, выдавая до 750 токенов в секунду.

Компания рассматривает Ultrafast прежде всего как инструмент для корпоративных задач. Например, такая скорость может пригодиться для клиентской поддержки, электронной коммерции и анализа рынков.

Технически режим Ultrafast работает на чипах Cerebras. Эта компания известна как разработчик процессоров с гигантским — порядка миллиона — количеством вычислительных ядер.

Сейчас Ultrafast находится на стадии предварительного запуска и доступен ограниченному числу клиентов OpenAI. Со временем компания обещает раскатить режим по большему количеству пользователей.