Sam Altman, CEO de OpenAI, y sus tres finales para la IA: un OIEA que ya pidió en 2023

El director ejecutivo de OpenAI, Sam Altman, ha presentado a su equipo un mapa de cómo podría terminar la carrera hacia la superinteligencia, y lo más revelador es lo poco que hay de nuevo en él. De los tres desenlaces que expuso a los empleados, dos se parecen mucho a ideas que su propia empresa dejó por escrito hace años. Ninguna llegó a materializarse. La tercera, la que acaparó los titulares, la planteó solo para descartarla.

Si dejamos a un lado las etiquetas, todas las opciones responden a la misma pregunta: quién controla la capacidad de cálculo que necesitan los modelos más avanzados. Las declaraciones atribuidas a Altman también explican por qué esa cuestión sigue aplazándose.

Qué contó Sam Altman al equipo de OpenAI sobre el futuro de la IA

The Information fue el primero en informar de la presentación interna, citando a personas familiarizadas con ella. Después se hicieron eco The Decoder, Forbes y Latin Times. La información se basa en fuentes anónimas. La primera opción es un organismo internacional inspirado en el Organismo Internacional de Energía Atómica, con autoridad para imponer normas de seguridad a los laboratorios que desarrollan los modelos más avanzados: inspeccionar sistemas, exigir auditorías y vigilar el uso de capacidad de cálculo y energía. Dos personas dijeron a The Information que Altman pareció respaldar la propuesta.

Lectura recomendadaLos nuevos términos comerciales de Meta le permiten rastrear tu web y entrenar su IA con ella

A la segunda la llamó el «plan Demis», por Demis Hassabis, cofundador de Google DeepMind, que hace aproximadamente una década propuso crear una institución para la IA al estilo del CERN. En la versión de Altman, los principales laboratorios se fusionarían en una sola entidad, o trabajarían bajo su paraguas, y esta proporcionaría modelos a los países que colaborasen.

La tercera es el «plan Eliezer», en alusión al teórico de la seguridad de la IA Eliezer Yudkowsky. Un desarrollador llega primero a una IA capaz de mejorarse a sí misma y utiliza el poder económico que obtiene para dejar a todos sus rivales sin capacidad de cálculo; según la frase que se popularizó, «fundiría las GPU de todos los demás». «Obviamente, me parece terrible», habría dicho Altman, que añadió que la había incluido por «completitud».

OpenAI ya había planteado casi todas estas opciones en 2023

El organismo supervisor es la propuesta más antigua de la lista. En un artículo firmado por Altman, el presidente de OpenAI, Greg Brockman, y el entonces científico jefe, Ilya Sutskever, la empresa sostenía que probablemente el mundo «acabaría necesitando algo parecido a un OIEA para las iniciativas de superinteligencia»: una autoridad capaz de «inspeccionar sistemas, exigir auditorías» y restringir el despliegue cuando se superase cierto umbral de capacidad o de recursos de cálculo.

El mismo artículo esbozaba otras dos vías. Los principales gobiernos, decía, «podrían poner en marcha un proyecto al que se incorporasen muchas de las iniciativas actuales», una idea muy similar a la fusión que Altman atribuye ahora a Hassabis. O bien el sector «podría acordar colectivamente» que «el ritmo de crecimiento de las capacidades de la IA más avanzada se limitase a una determinada tasa anual».

Esa última propuesta es un límite de velocidad. Según The Decoder, Altman se quejó internamente de que hay muy pocas propuestas viables para establecer un «límite de velocidad» al desarrollo de la IA. Su empresa publicó una. Lo que nunca hizo fue ponerla en manos de alguien con poder para imponerla.

Por qué el organismo supervisor sigue sobre el papel: OpenAI dice que no puede frenar

La explicación llegó en la misma reunión. Según la información publicada, Altman dijo a su equipo que los dos primeros planes exigen una coordinación intensa y que OpenAI no puede permitirse ceder terreno ahora, mientras la propia empresa y Anthropic avanzan hacia una salida a bolsa. Crypto Briefing explicitó la lógica de los inversores: las empresas que se preparan para cotizar refuerzan su ventaja; no se la entregan a un consorcio.

Un OIEA para la IA también requeriría que Washington y Pekín aceptasen la presencia de inspectores en sus laboratorios más sensibles. Por ahora, señala Forbes, incluso la propuesta estadounidense de que los dos países se notifiquen mutuamente los incidentes peligrosos relacionados con la IA sigue siendo un esbozo, no un acuerdo.

Lo que los laboratorios están creando en su lugar es una FINRA, no un OIEA

El proyecto de gobernanza que sí está en marcha no coincide con ninguna de las tres opciones de Altman. OpenAI, Google y Anthropic trabajan en un grupo de autorregulación, la Standards Authority for Frontier AI, inspirado en FINRA, el organismo privado que supervisa a los intermediarios bursátiles estadounidenses. Latin Times describe un marco para realizar pruebas antes del lanzamiento, informar de incidentes y acreditar auditores, pero sin capacidad para imponer normas vinculantes. Además, los tres laboratorios siguen sin ponerse de acuerdo sobre quién debería probar los nuevos modelos. Mark Zuckerberg, de Meta, y Jensen Huang, de Nvidia, sostienen que este tipo de normas protegen sobre todo a las empresas ya establecidas, y una demanda antimonopolio presentada en Estados Unidos ya alega que la coordinación de los laboratorios en materia de seguridad equivale a un cártel.

También conviene revisar las etiquetas. La imagen original de Yudkowsky, «quemar todas las GPU», era un experimento mental sobre la magnitud de la acción que tendría que emprender un sistema alineado para detener una carrera temeraria; él mismo escribió que no es algo que realmente quisiera que se hiciera. El «plan Eliezer» de Altman convierte ese freno de emergencia en una victoria monopolística. Según la información de The Decoder sobre la noticia, una fuente dijo que el comentario se interpretó como una pulla a un competidor, dadas las conexiones de Yudkowsky con Anthropic.

Según The Information, OpenAI tiene previsto decidir en el plazo de un año qué camino seguirá. El organismo de estándares del sector aspira a ponerse en marcha a finales de 2026 o principios de 2027.

Hasta que OpenAI se decida, seguirá avanzando por el único camino que no figuraba en su lista: la propia carrera.

Etiquetas: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

Contenido similar

ChatGPT ya te viste con ropa de cualquier tienda a partir de un selfi

El Mac mini M6 de Apple trae IA local sin internet desde 899 dólares

La IA de voz de OpenAI ya no espera su turno — y cuesta $0,05 el minuto

El jefe de Microsoft AI, Mustafa Suleyman, sobre Claude y la conciencia: «Creo que esto es muy peligroso»

El Mac mini no estaba pensado para entrenar IA. OpenAI compró decenas de miles de todos modos

DeepSeek V4.1 Flash: 552.000 millones de parámetros, 8.000 activos y un 60% más barato en caché