ИИ-бум продлил жизнь старым ускорителям Nvidia: A100 будут арендовать еще несколько лет

При работе с современными моделями они должны быть не так уж плохи.

Ускорители Nvidia A100, выпущенные в 2020 году, до сих пор пользуются популярностью. Облачный провайдер CoreWeave сообщил, что один из клиентов арендовал целый парк ускорителей до 2029 года.

Информацию подтвердил глава Nvidia Дженсен Хуанг, отметивший, что старые ускорители компании все еще могут приносить пользу благодаря экосистеме CUDA. Арендованные чипы будут использовать для обучения и инференса ИИ-моделей.

Для Хуанга клиент CoreWeave — это наглядная иллюстрация того, что ускорители Nvidia не устаревают сразу же после того, как на рынок выходит новое поколение устройств. По соотношению цена/производительность старые ускорители все еще могут быть актуальны.

В CoreWeave не уточнили, о каких моделях A100 идет речь. Топовая версия ускорителя несет на борту 80 гигабайт памяти HBM2E и должна достаточно уверенно справляться даже с современными моделями.

По энергоэффективности и скорости работы A100 заметно уступают современным решениям Nvidia, однако их вполне могут использовать для второстепенных задач — например, распознавания объектов на изображениях и обучения соответствующих моделей.