OpenAI y Anthropic quieren frenar la IA, y eso les construye un foso

Lo llamativo del repentino entusiasmo por frenar la inteligencia artificial no es que quienes la construyen quieran ahora ponerle freno. Es que los frenos que describen solo ellos pueden permitírselos cómodamente. Cuando los líderes de los laboratorios de IA más valiosos coinciden, casi al unísono, en que el campo avanza demasiado rápido, el argumento de seguridad es real — y también lo es el argumento de negocio que permanece callado debajo.

El detonante fue un llamamiento de Dario Amodei, de Anthropic, a «marcar el ritmo de la frontera»: ralentizar el ritmo al que mejoran las capacidades de los modelos, instalar evaluadores independientes dentro de los laboratorios y lograr que los principales actores de los países democráticos acuerden estándares comunes de seguridad. Él mismo calificó el rechazo público a la IA como, en sus palabras, una crisis de confianza. En cuestión de días, Sam Altman dijo que estaba de acuerdo y que OpenAI ya venía discutiendo exactamente eso; Elon Musk lo secundó con dos palabras: «Dario tiene razón». La cobertura lo trató como una conciencia tardía que llegaba de golpe.

Lea el mismo plan como analista en lugar de como responsable de seguridad y aparece una segunda imagen. Los revisores externos integrados, las pruebas de alineación certificadas, los marcos de riesgo publicados y la notificación de incidentes no son solo salvaguardas; son costes fijos. Y los costes fijos son el arma competitiva más fiable que posee una gran empresa, porque recaen por igual en dólares sobre todos, pero no por igual en el sufrimiento.

Considere la aritmética. Los mayores proveedores de infraestructura cloud e IA de EE. UU. se han comprometido a algo del orden de 660 a 690 mil millones de dólares en gasto de capital para el próximo año, solo Amazon cerca de 200 mil millones y Alphabet, Meta y Microsoft cada uno en los cientos de miles de millones o acercándose. Frente a balances como estos, un régimen de cumplimiento — un equipo de evaluadores integrados, un marco anual de seguridad, una multa que California limita a un millón de dólares por infracción — es un error de redondeo. Para una startup que intenta llegar a la frontera, eso es toda su pista de despegue.

Esto ya no es hipotético. La SB 53 de California ya define a un «gran desarrollador de frontera» mediante dos puertas: modelos entrenados por encima de un umbral de cómputo muy alto, y más de quinientos millones de dólares en ingresos. Esas empresas deben publicar marcos de seguridad y notificar incidentes críticos en plazos ajustados. En Europa, el artículo 55 de la Ley de IA exige que los proveedores de los modelos de uso general más capaces realicen pruebas adversariales, mitiguen el riesgo sistémico y notifiquen incidentes graves. El suelo se está vertiendo; la cuestión es quién es lo suficientemente alto para estar sobre él sin notarlo.

La señal más clara es quién no pide frenos. El plan nunca nombra a sus perdedores naturales, pero son fáciles de identificar: los laboratorios cuyo modelo completo consiste en regalar los pesos — Meta, la francesa Mistral, la china DeepSeek y Alibaba. Como lo expresó un análisis disidente, estos son «los cuatro nombres que el ensayo nunca imprime», los creadores de los modelos gratuitos que un cliente de pago podría descargar en lugar de alquilar una API. No se puede certificar la alineación de un modelo que cualquiera puede modificar en una tarde, así que un régimen de estándares dirigido a la frontera golpea más fuerte a los pesos abiertos. Y el bando abierto está ganando precisamente a los usuarios que los titulares preferirían retener: un modelo abierto chino, Qwen, cuenta descargas en miles de millones donde el Llama de Meta cuenta en cientos de millones.

Nada de esto es nuevo. Es el movimiento más viejo en cualquier industria regulada — el actor establecido da la bienvenida al libro de reglas que puede permitirse, porque un coste que es trivial en sus cuentas es un muro para el rival. Los economistas tienen un nombre claro para esto, captura regulatoria, y no requiere mala fe. Un argumento de seguridad puede ser completamente sincero y aun así funcionar como barrera de entrada. Aquí, ambas cosas son ciertas a la vez.

Para Europa, lo que está en juego es más profundo de lo que parece. El único aspirante creíble a la frontera en el continente, Mistral, es precisamente un laboratorio de pesos abiertos, y sus clientes españoles y europeos en general — las startups que construyen productos sobre modelos baratos y modificables — son quienes más pierden si el suelo global de cumplimiento se escribe en torno a cuatro titulares estadounidenses. Un libro de reglas diseñado en San Francisco y ratificado en Bruselas puede proteger al público y subir la escalera tras los líderes al mismo tiempo.

Así que demos la bienvenida al giro hacia la seguridad: los riesgos son reales y los evaluadores llegan con retraso. Pero veamos qué viene después. Si las reglas finales se asientan exactamente donde los cuatro gigantes pueden pagar y nadie más pequeño puede, la ralentización no habrá marcado el ritmo de la frontera tanto como la habrá cercado.

Etiquetas: OpenAI, Anthropic, AI regulation, Mistral, open-weight models