IA

OpenAI declara la era AGI. El benchmark que cita sitúa la puntuación 37 puntos por debajo

Adrian Kessler

Jensen Huang publicó en X un mensaje breve y una felicitación: «De ChatGPT a o1 a Astra en 4 años, la AGI ha llegado. Enhorabuena al equipo de OpenAI». Lo hizo pocos días después de que Greg Brockman, presidente de OpenAI, hubiera utilizado casi el mismo planteamiento ante la prensa: «Bienvenidos a la era de la AGI». Las declaraciones llegaron muy juntas, de dos hombres con intereses complementarios, y fueron recibidas en gran medida como una confirmación.

El benchmark que sustentaba la afirmación era ARC-AGI-3. OpenAI afirmó que Astra, su nuevo modelo frontera lanzado bajo la designación GPT-6, obtuvo un 99,9% en ARC-AGI-3 y un 98% en FrontierMath Tier 4. Puntuaciones a ese nivel, en condiciones estándar, representarían una discontinuidad real — un modelo que no solo rinde bien, sino que alcanza un territorio que benchmarks anteriores trataban como aspiracional. La organización que construyó ARC-AGI-3 publicó una puntuación de su arnés de evaluación estándar: 62,7%.

Treinta y siete puntos porcentuales separan esas dos cifras. Ambas proceden de evaluaciones reales. El arnés interno de OpenAI y el arnés de referencia de los creadores del benchmark no son el mismo protocolo, y el mismo modelo produce puntuaciones distintas bajo cada uno. Lo que la organización de ARC-AGI-3 utiliza como su condición de referencia — la que considera válida para comparar modelos en el campo — produjo un 62,7%. El sistema interno de OpenAI produjo un 99,9%. La diferencia entre esos números es la diferencia entre un resultado sólido de benchmark y una declaración de llegada.

La venta de chips tras la felicitación de la AGI

Astra se entrenó con chips de NVIDIA. Huang vende chips de NVIDIA. Cuando un CEO felicita públicamente a un cliente por superar un umbral histórico — un umbral que convierte el hardware utilizado para construir ese producto en la infraestructura definitoria de lo que viene después — el anuncio es, estructuralmente, una declaración comercial. No una conspiración. Una realidad estructural: el conflicto de intereses era visible, el marco era de llegada más que de rendimiento, y la mayor parte de la cobertura recibió ambos sin comentarios.

El mercado de chips para infraestructura de IA se mueve por narrativas. Si Astra es AGI, entonces lo que entrenó a Astra se convierte en el hardware del mundo post-AGI — y las empresas que compren chips para la próxima ronda de entrenamiento comprarán apuntando a ese benchmark. Las felicitaciones de Huang fueron, en ese sentido concreto, también una declaración de producto. La declaración dependía de una cifra que la propia organización del benchmark midió de forma diferente.

Lo que muestra la verificación independiente — y lo que no

A fecha de publicación, Astra no aparece en el Artificial Analysis Intelligence Index ni en los rankings de Arena.ai — los dos sistemas de evaluación independiente más seguidos para modelos frontera. La verificación independiente de los grandes lanzamientos frontera suele llegar en cuestión de días. Esta ausencia no es prueba de un rendimiento deficiente. Significa que la validación externa que normalmente acompañaría a una afirmación de esta magnitud aún no se ha materializado.

El 62,7% de los creadores del benchmark no es una refutación. Una puntuación a ese nivel en ARC-AGI-3 — una prueba diseñada para resistir los trucos de optimización que inflaron benchmarks anteriores — es genuinamente sólida. Los predecesores de ARC-AGI-3 estaban saturados: los modelos absorbían datos de entrenamiento similares a las preguntas del test y elevaban las cifras sin mejorar en razonamiento novedoso. ARC-AGI-3 cambió el diseño de las preguntas para exigir abstracción en lugar de recuperación de patrones. Sesenta y dos coma siete por ciento en esa prueba, bajo el arnés de referencia, está muy por encima de todo lo que existía hace dos años.

Los investigadores que plantearon objeciones fueron precisos al respecto. La capacidad del modelo no era su objetivo. El salto del rendimiento a la declaración sí lo era. «Obtiene buenas puntuaciones en estos benchmarks» y «la AGI ha llegado» requieren un paso intermedio: una definición estable y consensuada de AGI contra la que medir la llegada. No existe tal definición en el campo. OpenAI tiene una interna. Según la propia definición de OpenAI, Astra puede cumplir los requisitos. Pero que una empresa mida su producto contra una definición que ella misma escribió es un tipo de resultado diferente al medido por un estándar externo.

La frase que no vino con una definición

El mensaje de Huang no incluía matices. «La AGI ha llegado» es una declarativa — no «según algunas medidas» o «bajo ciertas definiciones», sino una llegada limpia. La progresión de cuatro años que mencionó — ChatGPT, o1, Astra — es real como trayectoria de capacidad. Cada modelo de la secuencia amplió lo que era posible. Enmarcar esa secuencia como un viaje con un punto final, y anunciar ese punto final, plantea una afirmación diferente: dice que la llegada es distinguible del viaje, que hay una línea en lugar de una pendiente, y que Astra la cruzó.

La cifra del benchmark detrás de esa afirmación era del 62,7%. Las personas que construyeron la prueba la publicaron. La pregunta que plantea — si la declaración de AGI es una medición o un movimiento de mercado — estaba ahí el 6 de septiembre. La cobertura la respondió en gran medida sin preguntar.

Etiquetas: , , , , ,

Debate

Hay 0 comentarios.