IA

Nvidia PAIR une las GPU de tu casa y duplica la velocidad de los agentes de IA

Susan Hill

Una nueva herramienta gratuita de Nvidia llamada PAIR — Personal AI Router — dirige las tareas de los agentes de IA a través de varios ordenadores de tu red doméstica, convirtiendo tu colección de PC gaming, estaciones de trabajo e incluso Macs en un clúster de inferencia unificado. La idea es sencilla: la mayoría de los ordenadores con capacidad para IA están inactivos la mayor parte del tiempo, y las cargas de trabajo locales de IA se construyen cada vez más en torno a agentes que lanzan decenas de subtareas independientes a la vez. PAIR conecta los ciclos sobrantes.

El software funciona como un proxy transparente sobre Ollama y LM Studio, las dos herramientas de inferencia local más populares, por lo que las configuraciones existentes no requieren cambios de código. Una vez instalado en cada máquina, PAIR usa mDNS — el mismo protocolo que usa tu impresora para aparecer en la red — para descubrir dispositivos compatibles de forma automática. Un agente principal envía su trabajo como siempre, y PAIR decide qué máquina se encarga de cada subtarea en función de los modelos que tenga disponibles cada equipo. No se necesita una configuración idéntica en todas las máquinas: un PC gaming con Llama 3.3 y un portátil con Mistral pueden colaborar en el mismo trabajo.

El benchmark que publicó Nvidia hace tangible la diferencia: una tarea de cinco subagentes que tardó 18 minutos en un único portátil RTX Spark se completó en 8 minutos y 48 segundos en un clúster de tres dispositivos. Esto supone una aceleración de aproximadamente 2× sin tocar una línea de código ni pagar por computación en la nube. La ganancia escala con el número de máquinas y la naturaleza de la carga de trabajo — las tareas que se dividen en muchas piezas paralelas se benefician más.

La privacidad es el otro argumento de venta, y es el más duradero. Cada prompt, archivo y fragmento de contexto del agente permanece en tu red doméstica. Nada se enruta a un servicio de inferencia en la nube; no hay clave API, ni medición de uso, ni ninguna empresa que reciba tus consultas. Para cualquiera que ejecute agentes sobre documentos sensibles — borradores legales, notas médicas, correspondencia personal — esa diferencia importa más que las cifras de los benchmarks.

Las salvedades son reales. PAIR no ofrece una calidad de servicio garantizada: si la máquina con la que contabas activa su GPU para un juego o una exportación de vídeo, PAIR redistribuye esa carga de trabajo a lo que esté disponible. La herramienta está diseñada abiertamente para tareas de larga duración con un plazo flexible, no para aplicaciones donde la latencia deba ser predecible. Además, es software beta. Nvidia dirige esto a entusiastas que tengan al menos una máquina compatible — una tarjeta GeForce RTX serie 20 o superior, o silicio Apple M4 — y la expectativa de que ya sepan manejarse con Ollama.

PAIR es gratuito, de código abierto y está disponible en beta ahora para Windows, macOS y Linux. Nvidia no ha anunciado una hoja de ruta para garantías de QoS ni una fecha de lanzamiento estable. El mínimo práctico para beneficiarse de él son dos máquinas con hardware capaz, lo que descarta la mayoría de las configuraciones de un solo ordenador. Para los usuarios que ya ejecutan Ollama en más de un dispositivo en casa, la barrera de entrada es lo suficientemente baja como para justificar el experimento.

Etiquetas: , , , , ,

Debate

Hay 0 comentarios.