Nvidia превратит домашние ПК в единый ИИ-кластер с помощью PAIR

Ну, вдруг у вас дома есть несколько ПК с топовыми видеокартами или чипами.

На конференции IFA компания Nvidia анонсировала систему PAIR, Personal AI Router. Она предназначена для распределения ИИ-задач между несколькими компьютерами в одной локальной сети.

Система использует свободные ресурсы видеокарт на подключенных устройствах и позволяет запускать достаточно крупные языковые модели без обращения к облачным сервисам. Но все, конечно, зависит от производительности систем.

PAIR прежде всего рассчитана на агентные ИИ-системы. Если основной агент разбивает крупную задачу на несколько подзадач, система может отправить их на разные компьютеры вместо одновременного запуска всех процессов на одной видеокарте или чипе.

При этом PAIR не блокирует вычислительные мощности. Если пользователь запускает на одном из компьютеров какое-то ресурсоемкое приложение — например, игру, — то кластер автоматически адаптируется и перераспределяет нагрузку между оставшимися узлами.

Для подключения PAIR создает прокси, с которым могут работать LM Studio и Ollama. На компьютерах, входящих в кластер, также должны быть установлены PAIR и одна из этих платформ. Все узлы не обязаны хранить одинаковый набор моделей.

PAIR будет работать на DGX-Spark и других системах на базе GB10, а также на ПК с видеокартами GeForce RTX. Nvidia обещает реализовать поддержку Windows, Mac и Linux.