Все новости
Это интересно
Сейчас читают
Технологии
Аватар Evernews Evernews

Оперативная память должна быть в дата-центрах, а не в ПК, считает глава OpenAI

11
0
Поделиться
Телеграфировать

Обычные ПК с большим объемом памяти для инференса — довольно ужасная идея.

Оперативная память должна быть в дата-центрах, а не в ПК, считает глава OpenAI

Глава OpenAI Сэм Альтман раскритиковал использование больших объемов оперативной памяти в обычных ПК для локального запуска ИИ-моделей. Альтман считает, что гораздо разумнее направлять ресурсы такого рода в дата-центры.

Обсуждая возможность запуска открытых ИИ-моделей на обычных ПК, Альтман обратил внимание на низкую эффективность использования памяти в таких устройствах. По его словам, пользователи могут устанавливать десятки гигабайт памяти, но значительную часть времени эти ресурсы остаются невостребованными.

Сэм Альтман
глава OpenAI

С точки зрения глобального распределения ресурсов ситуация, когда у каждого человека в ПК находится значительная часть ограниченных мировых запасов памяти, используемая лишь 5% времени, на самом деле довольно ужасна.

В условиях настолько острого дефицита ресурсов необходимо добиваться максимальной загрузки оборудования в облаке, но это почему-то противоречит интуитивным представлениям многих людей.

Позиция Альтмана совпадает с бизнес-моделью OpenAI. Вопреки названию, компания предпочитает использовать закрытые модели, работающие на ее собственных серверах, и крайне редко выпускает продукты с открытыми весами.

Теоретически распространение продвинутых нейросетей с открытыми весами может снизить аудиторию OpenAI и выручку компании. Практически для использования действительно продвинутых моделей потребуется такой объем памяти, который все равно недоступен обычному ПК.

Примечательно, что дефицит памяти, о котором говорит Альтман, возник как раз благодаря активному расширению ИИ-датацентров. Если верить SK Hynix, одному из производителей памяти, дефицит останется с нами до 2030 года.

Понравились наши истории?
Скорее добавляйте WTFTime.ru в предпочтительные источники Google — и мы всегда будем рядом.
Читать далее
Как вам Grand Theft Auto 6?
10 из 10 на кончиках пальцев
51 голос, 20.9%
Хорошо, но могло быть лучше
10 голосов, 4.1%
Самая обычная игра
21 голос, 8.6%
Ужасно, пожалел о покупке
10 голосов, 4.1%
Не играл и не собираюсь
35 голосов, 14.3%
Жду на ПК
117 голосов, 48.0%
Теги: OpenAI, Игры, Технологии
Аватар Evernews
Evernews
8093 подписчика