pimenov.ai

NVIDIA PAIR раздаёт локальные ИИ-запросы по домашним компьютерам

PAIR связывает Mac, Windows- и Linux-машины и распределяет локальные ИИ-запросы. Что это даёт агентам и почему это ещё не единая видеокарта.

ИИ-агентыИнструментыОбзор

NVIDIA выпустила публичную бету Personal AI Router, или PAIR. Программа связывает совместимые Mac, Windows- и Linux-компьютеры в локальной сети и даёт приложениям один адрес для обращения к локальным моделям.

Официальная страница NVIDIA Personal AI Router. Источник: NVIDIA.
Официальная страница NVIDIA Personal AI Router. Источник: NVIDIA.

PAIR работает с Ollama и LM Studio и предоставляет совместимые с Ollama и OpenAI интерфейсы. Когда приходит запрос, система проверяет, на каких компьютерах есть нужная модель и свободные ресурсы, а затем выбирает один из подходящих узлов.

Практический смысл появляется при параллельной работе. Например, несколько ИИ-агентов одновременно анализируют документы, пишут код и обрабатывают изображения. PAIR может отправить одну задачу на Mac, другую на компьютер с RTX, следующую на DGX Spark.

Главное ограничение: это диспетчер запросов, а не способ собрать несколько видеокарт в одну. PAIR не объединяет память, не делит модель между компьютерами и не ускоряет отдельный ответ. Каждый запрос целиком выполняется на одной машине. Дополнительные компьютеры увеличивают количество задач, которые можно выполнять одновременно.

Чтобы несколько узлов могли обслуживать одну модель, она должна быть заранее установлена на каждом из них. Планировщик текущей беты пока не учитывает объём свободной памяти, класс видеокарты, задержку, «прогретость» модели и предполагаемую сложность запроса. Поэтому предсказуемее всего PAIR должен работать с похожими по мощности машинами.

Запросы между подключёнными узлами защищены взаимным TLS. При этом NVIDIA советует использовать PAIR только в доверенной локальной сети: часть сведений о компьютерах и их загрузке доступна другим устройствам в том же сегменте сети.

Главная ценность PAIR — распределение множества независимых локальных работ. Один разговор с моделью быстрее не станет. А вот домашняя инфраструктура из нескольких машин получает единую точку входа, к которой можно подключать приложения и команды ИИ-агентов.

Проект открыт под лицензией Apache 2.0. Это ранняя бета, поэтому сейчас его разумнее рассматривать как инструмент для экспериментов, а не как готовую производственную инфраструктуру.

Источники: страница PAIR, обзор устройства, архитектура, известные ограничения, GitHub.


Следующий шаг

Как настроить Mac mini без монитора для ИИ-агентов

Связанные материалы

Статья: Qwen3.8 на Mac mini M4 Pro: сначала всё сломалось, потом он написал эту статью

Блог: Наконец запустил локальный Qwen в Bionic

База знаний: Ollama или LM Studio: что выбрать для старта с локальными моделями

Если у вас уже работает несколько локальных машин или команда ИИ-агентов, можно отдельно разобрать, где такой маршрутизатор действительно даст выигрыш.

Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov