IA

Meta lanza Muse Glimmer: agente de IA de 30B que corre en tu GPU sin servidores

Adrian Kessler

Meta ha construido un agente de IA de 30 mil millones de parámetros que se ejecuta íntegramente en hardware de consumo — y ha publicado el código fuente de forma gratuita. El modelo, llamado Muse Glimmer, no envía tus tareas a los servidores de Meta. Se ejecuta localmente en tu propia GPU, y con una huella de memoria cuantizada de 18 a 20 gigabytes, cabe dentro del margen de las tarjetas gráficas de consumo de gama alta actuales.

Eso es importante porque la generación anterior de modelos locales — las variantes de 7 mil millones y 13 mil millones de parámetros que llenaron la biblioteca de Ollama durante los últimos dos años — eran buenos generadores de texto, pero agentes autónomos pobres. Tenían problemas con el razonamiento de múltiples pasos, llamadas a herramientas que fallaban a medio camino y tareas que requerían recordar lo que había ocurrido tres pasos atrás. Muse Glimmer está diseñado específicamente para esos flujos de trabajo: programación, invocación de funciones, gestión de horarios, organización de archivos y secuencias de tareas de varios pasos que se recuperan automáticamente cuando una llamada a una herramienta falla.

La arquitectura subyacente es una destilación de Muse Spark, el modelo comercial al que Meta comenzó a vender acceso por API el mes pasado. Mediante destilación logit y aprendizaje por refuerzo, la compañía comprimió su buque insignia cerrado en un formato que cabe en una GPU de 24 gigabytes — la RTX 5090, el Apple M5 Max o el M4 Max. La decodificación especulativa empuja aún más el rendimiento: la RTX 5090 ejecuta el modelo 3,1 veces más rápido que sin ella, el M5 Max a 1,8 veces, el M4 Max a 1,5 veces. En la práctica, esa diferencia es la línea que separa un agente que se siente receptivo de uno que requiere paciencia.

El modelo procesa texto e imágenes intercalados — capturas de pantalla, documentos, entradas de contenido mixto — y opera en más de 100 idiomas. Se conecta de forma nativa a los frameworks que los usuarios de IA local ya utilizan: Ollama, LM Studio, llama.cpp, MLX. Si ya descargas modelos de Hugging Face y los ejecutas en tu hardware, Muse Glimmer se integra en ese flujo de trabajo sin necesidad de herramientas adicionales.

La licencia es Apache 2.0, lo que significa que no hay restricciones comerciales. Particulares, empresas e investigadores pueden usarlo sin pagar a Meta. Eso lo sitúa en una categoría diferente de los modelos de OpenAI y Anthropic, que requieren pagar por token incluso para trabajos de desarrollo. Frente a Gemma4-31B de Google y Qwen3.6-27B de Alibaba — sus competidores de peso abierto más cercanos en escala — Meta posiciona a Muse Glimmer como fuerte para su tamaño en benchmarks agentivos y de modelos de lenguaje generales, sin hacer afirmaciones más específicas sobre qué tareas gana.

El umbral de hardware sigue siendo selectivo. Que 18 gigabytes de pesos de modelo quepan en una GPU suena accesible hasta que calculas qué GPU se necesita. Una RTX 5090 cuesta actualmente más de dos mil dólares. Los equipos con Apple M5 Max empiezan cerca de los tres mil. Esto es IA local para un determinado nivel de ingresos, no un sustituto de la nube para la mayoría de los usuarios. La versión cuantizada es además un hermano de fidelidad reducida de Muse Spark: hereda la señal de entrenamiento del modelo comercial, pero no es el modelo comercial. Meta sigue vendiendo acceso a la versión de mayor capacidad.

Lo que cambia con este lanzamiento es el nivel de agentes capaces en los modelos locales. Ejecutar un modelo de 30 mil millones de parámetros entrenado para la finalización autónoma de tareas es diferente de ejecutar un modelo de chat con el mismo número de parámetros. La diferencia está en cómo el modelo maneja los fallos de herramientas y las secuencias de varios pasos — no en lo bien que completa una sola frase.

Los pesos están disponibles en Hugging Face desde el 10 de agosto, bajo licencia Apache 2.0. Meta ha confirmado acuerdos de optimización a nivel de dispositivo con AMD, Arm, Dell, Intel y Nvidia, y se esperan builds ajustados adicionales para configuraciones de hardware específicas. La comunidad de IA local pondrá a prueba el modelo en cuestión de días, como hace con cada lanzamiento importante — los resultados de los benchmarks de esa comunidad ofrecerán una imagen más clara de dónde se sitúa realmente Muse Glimmer en un plazo de dos semanas a partir de hoy.

Etiquetas: , , , , ,

Debate

Hay 0 comentarios.