IA

Mistral Large 4 es gratis, pero tu ordenador necesita 512 GB de memoria

Adrian Kessler
Añádenos en Google

Mistral ha publicado los pesos completos de Mistral Large 4, el modelo al que apoda Le Chonk, para que cualquiera pueda descargarlo, modificarlo y ejecutarlo en su propio hardware. El laboratorio francés afirma que es ya el modelo abierto más potente para escribir código y para tareas de seguridad defensiva, como reproducir un fallo de software y después corregirlo. El problema para quienes esperan poder ejecutarlo en casa es su tamaño.

Le Chonk tiene alrededor de un billón de parámetros, de los que 49.000 millones se activan por cada palabra que genera. Incluso las versiones más comprimidas, las compilaciones de 2 bits creadas por el equipo de llama.cpp y Unsloth, necesitan un único ordenador Apple Silicon Ultra con 512 GB de memoria unificada, según Hugging Face. El único Mac que vende Apple con tanta memoria es un Mac Studio con chip M5 Ultra y, según informa 9to5Mac, configurado así cuesta 22.299 dólares en Estados Unidos. Para ejecutarlo de cualquier otra forma hacen falta varias tarjetas gráficas de gama alta trabajando juntas.

La defensa que hace Mistral del modelo se apoya en la programación. La empresa afirma que obtiene un 41 % en Terminal-Bench 4.0, una prueba de agentes de IA que trabajan en una línea de comandos, el mejor resultado entre los modelos abiertos. También asegura que iguala a GLM-5.3 en el índice de agentes de programación de Artificial Analysis y que utiliza un 47 % menos de tokens por tarea, lo que abarata su ejecución. En las comparaciones a ciegas de Surge, los evaluadores prefirieron su código al de GLM-5.3, Kimi K3 y DeepSeek V4.1 Flash, y solo situaron por encima a Claude Opus 5.5, de Anthropic.

La propuesta de seguridad está dirigida a los equipos de defensa. Hugging Face afirma que el modelo obtuvo un 82 % en una prueba de Artificial Analysis que pide a un modelo reproducir una vulnerabilidad real en software de código abierto y después corregirla. También señala que Mistral sostiene que varios modelos cerrados de frontera obtienen resultados cercanos a cero porque se niegan a intentarlo. Un banco o una agencia gubernamental puede ejecutar el modelo en sus propios servidores, alimentarlo con su propio código y sus registros de fallos, y seguir utilizándolo aunque un proveedor cambie las condiciones. «La IA será como la electricidad. No quieres vivir en un mundo en el que tu vecino pueda cortarte la luz de un día para otro», declaró Pierre Stock, vicepresidente de ciencia de Mistral, a los periodistas, según Wired.

La mayoría de esas cifras proceden de la propia Mistral y se basan en pruebas que la empresa ha elegido; las evaluaciones externas apenas han empezado. En el índice general de inteligencia de Artificial Analysis, Hugging Face sitúa el modelo en quinto lugar entre los modelos abiertos, no en el primero. El argumento de la seguridad también tiene otra cara. Mistral escribió que, mientras observaba el tráfico en directo durante la vista previa, detectó «un potencial para facilitar la ejecución de ataques reales» y que está reforzando sus barreras de seguridad. Sin embargo, cualquiera puede descargar y reajustar los pesos públicos, también los atacantes. «Está claro que es una tecnología de doble uso», declaró a Wired Rafe Pilling, director sénior de inteligencia sobre amenazas de Sophos.

Usarlo en casa también implica aceptar ciertas limitaciones, incluso con el Mac adecuado. Hugging Face ejecutó la versión de 2 bits en un Mac Studio M3 Ultra más antiguo y obtuvo unos 15 tokens por segundo: suficiente para chatear, pero lento para tareas largas de programación. Con cuatro tarjetas Nvidia RTX 6000 Pro y documentos muy extensos, la velocidad de generación cayó a unos 3 tokens por segundo. Comprimir el modelo a 2 bits también reduce la precisión respecto a la versión completa que Mistral utilizó en sus pruebas.

Los pesos están disponibles en Hugging Face para su descarga desde cualquier lugar del mundo bajo la Mistral Ecosystem Open-Weight License, una licencia MIT modificada que permite el uso gratuito, el ajuste fino y la creación de productos comerciales, con una excepción: las empresas que ofrezcan el modelo como servicio alojado necesitan una licencia comercial aparte de Mistral. El resto también puede utilizarlo a través de la API de Mistral, a 0,70 dólares por cada millón de tokens de entrada y 2,10 dólares por cada millón de tokens de salida, o mediante OpenRouter y Microsoft Foundry. Mistral publicó una versión preliminar a principios de octubre y los pesos definitivos el 29 de octubre. Apple afirma que los Mac Studio pedidos con 512 GB se enviarán entre finales de noviembre y principios de diciembre.

«Cuando publicas los pesos como código abierto, se propagan por todo internet. Es imposible cortar el acceso», declaró Stock a Wired. Para quien no tenga un ordenador de 22.299 dólares, el límite lo marca el precio de la memoria.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.