Samsung показала ИИ-чип с ультранизким энергопотреблением — для смартфонов

Формально его эффективность гораздо выше, чем у чипа Nvidia.

Кстати, на сайте читать удобнее

Инженеры компании Samsung рассказали о создании чипа C-Transformer, предназначенного для работы с большими языковыми моделями. C-Transformer — чип с ультранизким энергопотреблением и небольшой производительностью.

Согласно работе, опубликованной сотрудниками Samsung, чип C-Transformer потребляет в 625 раз меньше энергии, чем чип Nvidia A100. Кроме того, чип Samsung в 41 раз меньше чипа Nvidia.

В то же время Samsung не стала прогонять на своем чипе бенчмарки, позволяющие напрямую сравнить C-Transformer и A100. Известна только теоретическая производительность нового чипа: 3.41 TOPS. У Nvidia A100 этот показатель равен 624 TOPS.

Таким образом, если верить Samsung, C-Transformer в 183 раза медленнее A100, но при этом его энергопотребление в 625 раз ниже. В компании считают, что этой производительности будет достаточно, чтобы C-Transformer можно было использовать для локального запуска языковых моделей на смартфонах.

В частности, в ходе тестов инженеры запускали на C-Transformer пожатую версию модели GPT2.

О серийном производстве чипов C-Transformer и интеграции их в реальные смартфоны речь пока не идет.