СМИ: Google частично встроит ИИ Gemini в специальный чип

Первые чипы такого рода могут появиться в 2028 году.

Google разрабатывает серверный чип Frozen v2, оптимизированный специально для работы с ИИ-моделью Gemini, утверждают источники The Information. По данным издания, часть архитектуры модели планируется «встроить» непосредственно в кремний.

Предполагается, что такая оптимизация позволит значительно повысить производительность и снизить энергопотребление. Речь может идти об обработке в 6–10 раз больше токенов на единицу энергии по сравнению с современными ускорителями Google.

Как пишет издание, первый вариант Frozen, созданный при участии главного научного сотрудника Google DeepMind Джеффа Дина, предполагал запись в чип самих весов Gemini. От этой идеи отказались, поскольку чип оказался бы привязан к одной версии модели и быстро устарел.

В новой разработке веса останутся обновляемыми — в железе будет зафиксирована только общая архитектура модели. Такой подход позволит использовать процессор с будущими версиями Gemini — при условии, что архитектура останется прежней.

Правда, пишет The Information, в Google пока не решили, какую именно часть архитектуры следует перенести в железо. Ясно лишь, что Frozen v2 не заменит нынешние ускорители компании, а будет работать параллельно с ними — для инференса обученных моделей.

Источники издания ожидают, что первые чипы Frozen v2 могут быть выпущены уже в 2028 году.