Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

Выложены веса модели Kimi K3 — это конкурент Fable 5 и GPT-5.6, но не всегда

0
0
Поделиться
Телеграфировать

Теперь с моделью могут поэкспериментировать все желающие.

Выложены веса модели Kimi K3 — это конкурент Fable 5 и GPT-5.6, но не всегда

Компания Moonshot AI опубликовала веса языковой модели Kimi K3. Первое время Kimi K3 была доступна только пользователям самой Moonshot, теперь ее теоретически могут развернуть все желающие — если у них есть необходимые мощности.

Kimi K3 содержит 2.8 триллиона параметров, в некоторых бенчмарках модель приближается к нейросетям GPT-5.6 Sol и Fable 5 или немного опережает их. При этом Kimi K3 заметно дешевле топовых закрытых моделей.

Например, обработка миллиона входных токенов в Kimi K3 стоит $3. У Fable 5 за аналогичный объем токенов на входе будет потрачено $10, а у GPT-5.6 Sol — $5. При попадании запроса в кэш цена Kimi K3 снижается до $0,30 за миллион токенов.

Для хранения весов Moonshot использует форматы MXFP4, для входных активаций — MXFP8. Часть тестов по программированию компания провела на ускорителях Nvidia H20 без поддержки MXFP.

Запустить Kimi K3 на обычной видеокарте не получится: модели нужно очень много памяти. В ближайшие часы нейросеть должна появиться на площадках, дающих доступ к открытым моделям.

Читать далее
Как вам Resident Evil Requiem?
Отличная игра
1028 голосов, 60.9%
Хорошо, но могло быть лучше
300 голосов, 17.8%
Самая обычная игра
198 голосов, 11.7%
Ужасно, серия свернула не туда
162 голоса, 9.6%
Теги: Технологии
Аватар Evernews
Evernews
8090 подписчиков