Sam Altman, jefe de OpenAI, ante la ONU: “La IA debe construirse para las personas, no solo para hacer girar la máquina más rápido…”

Sam Altman lleva años desempeñando dos papeles a la vez: el hombre que desarrolla la inteligencia artificial más potente del mercado y el que advierte al mundo de sus peligros. Ante el Consejo de Seguridad de las Naciones Unidas, el máximo responsable de OpenAI recurrió a una sola frase para mantener separados ambos papeles y, considerada por sí misma, es una buena frase.

«La IA debe estar al servicio de las personas, no limitarse a hacer que las máquinas funcionen más deprisa por el mero hecho de hacerlo».

Se lo dijo al Consejo de Seguridad, según informó Analytics Insight, como parte de un argumento más amplio: los sistemas potentes deben seguir bajo control humano y las normas que los regulen deben redactarlas los gobiernos, no solo los laboratorios. La frase traza una frontera: a un lado, una IA creada para las personas; al otro, una IA diseñada para acelerarse por el mero hecho de hacerlo. En boca de casi cualquiera, sonaría a principio elemental. En boca del director ejecutivo de la empresa que más está haciendo por acelerar esa maquinaria, también plantea quién tiene derecho a decidir dónde se sitúa la frontera.

Altman es una figura poco común: arquitecto y voz de alarma al mismo tiempo. En los mismos atriles desde los que pide salvaguardas, anuncia sistemas más capaces que aquellos que motivaron la ronda anterior de comparecencias. En su intervención del 23 de septiembre, elevó el escenario —de los paneles de Davos y las salas de audiencias del Senado al Consejo de Seguridad—, pero mantuvo intacto el patrón: cautela en las palabras, aceleración en la hoja de ruta. Ante el Consejo, sostuvo que los desarrolladores «no deberían entrenar modelos si no podemos defender con argumentos muy sólidos que seremos capaces de mantenerlos bajo control humano», y que las decisiones más importantes «no pueden tomarlas únicamente los laboratorios de San Francisco».

Ahí es donde la frase se vuelve interesante y donde conviene leerla con atención. Las normas de gobernanza que describe Altman las redactarán los mismos Estados a los que se dirigía, y quien defina qué significa «estar al servicio de las personas» también decidirá qué empresas desarrolladoras cumplen ya ese criterio. Un laboratorio puntero que contribuye a escribir el reglamento no es un actor neutral. Nada de esto resta valor a la advertencia. El riesgo que señala —que los sistemas avancen más deprisa que las instituciones encargadas de vigilarlos y que las decisiones se concentren en muy pocas manos— es real, y expresarlo en voz alta ante el Consejo de Seguridad eleva el coste para todos los que preferirían que el asunto siguiera siendo impreciso. Simplemente significa que quien transmite el mensaje ya forma parte de él.

Si se interpreta con benevolencia, la frase expresa una ética: mantener a las personas en el circuito de decisión y tratar la IA como una herramienta para ampliar su capacidad de actuar, no como una máquina que las convierte en materia prima. Si se lee también como lo que es —un movimiento estratégico del actor más expuesto de la industria—, busca fijar las condiciones de las próximas normas mientras se presenta como la voz adulta de la sala. Ambas interpretaciones pueden ser ciertas a la vez. Y eso es precisamente lo que hace que resulte difícil descartar a Altman y difícil confiar en él.

La manivela sigue girando mientras el mundo decide para quién. La sinceridad de la frase se medirá por una sola cosa: si OpenAI afloja cuando «al servicio de las personas» y «más deprisa» apunten por fin en direcciones distintas.

Etiquetas: OpenAI, Sam Altman, artificial intelligence, AI safety, AI governance