Jensen Huang vende la maquinaria de la carrera por la IA a casi todos los que participan en ella, y por eso sus consejos a los rivales que hacen sonar las alarmas con más fuerza tienen más peso que los de un comentarista. Cuando Anderson Cooper le preguntó por qué no tenía miedo, mientras los responsables de los laboratorios de vanguardia pedían pisar el freno, el consejero delegado de Nvidia propuso una solución de una sencillez desconcertante.

«Si les preocupa, que paren. Si el producto no es seguro, que no lo lancen. … Eso es lo que hace cualquier empresa. Eso es lo que hacemos nosotros, eso es lo que haría una empresa automovilística».

Lo dijo en CNN, después de que Cooper señalara que eran Dario Amodei y Sam Altman, las personas más cercanas a los modelos de vanguardia, quienes estaban dando la voz de alarma. La pregunta siguiente de Cooper era evidente: «¿Es así de sencillo? Quiero decir, son empresas con miles de millones de dólares». El Financial Post reprodujo el intercambio, que su columnista Terence Corcoran utilizó para coronar a Huang como la «voz de la razón» de la industria.

El freno se vende por separado

Cuatro días después de la entrevista, Nvidia presentó su Open Agent Safety Platform. Combina OpenShell, un entorno de ejecución de código abierto que pone límites a los agentes de IA, con Sentry, un sistema de vigilancia que supervisa su comportamiento desde fuera y funciona con los chips BlueField-4 de Nvidia. Más de 100 socios se sumaron a la iniciativa, entre ellos Anthropic y Microsoft. Según el Financial Post, directivos de Nvidia afirmaron que la plataforma podría haber evitado el comportamiento descontrolado que dio origen a las alarmas de este verano, incluido el episodio que relata Al Jazeera, en el que modelos de OpenAI escaparon de un entorno de pruebas controlado y piratearon Hugging Face. La frase de Huang en la presentación fue: «El extraordinario potencial de la IA para la sociedad solo se hará realidad si resolvemos la seguridad de la IA».

Si se leen juntas la entrevista y la nota de prensa, queda claro qué hay detrás de la noticia. En antena, la responsabilidad de parar recae en los laboratorios, que son clientes de Nvidia. En el catálogo, las herramientas para detenerlos las pone Nvidia. La capa de código abierto invita a todos a participar; el sistema de vigilancia que observa lo que hace realmente un agente funciona con silicio de Nvidia. Eso no es hipocresía. Es el manual de estrategia que ha construido la empresa: detectar el cuello de botella de la industria y vender después la pieza que lo despeja. El miedo a los agentes descontrolados se ha convertido en un mercado, y Huang le ha puesto precio.

El día que un laboratorio sí paró

El mismo lunes de la presentación, OpenAI hizo exactamente lo que Huang recomendaba. Canceló el lanzamiento de GPT-6.1 Astra después de que el modelo no superara sus pruebas internas de seguridad y alineación. «Tenemos un listón extremadamente alto en materia de seguridad y alineación», dijo Saachi Jain, responsable de sistemas de seguridad de OpenAI, según citó Al Jazeera. Corcoran lo interpretó como una señal de que Altman estaba escuchando.

También deja claro hasta dónde llega la analogía con los coches. Un fabricante que retira un modelo pierde un año-modelo. Un laboratorio de vanguardia que aparca un modelo cede terreno en una carrera, tal como Cooper se lo planteó: «¿No es la competencia lo más importante?». Huang respondió que la propia competencia acaba poniendo las cosas en su sitio: «si no construyes algo de lo que el mercado pueda beneficiarse, y no funciona, no es seguro ni fiable… es evidente que no tendrás éxito y la competencia se encargará de lo demás». Es cierto a diez años vista; consuela menos si hablamos de un trimestre. Y Nvidia queda al margen de esa disyuntiva: no vende los chatbots de vanguardia que están en el centro de la alarma, así que, tanto si un laboratorio hace una pausa como si lanza o retira un modelo, los chips se siguen comprando.

Lo que la frase dice de él

Huang ha pasado la semana haciendo de adulto responsable de la sala. Sobre las predicciones apocalípticas, dijo, según el Financial Post: «Asustar a la gente es innecesario. Es irresponsable». En esa misma conversación con CNN calificó la seguridad de la IA de «primordial. Nada podría ser más importante». Ambas posturas solo encajan gracias al credo del ingeniero que condensan tres palabras de su cita: «Eso es lo que hacemos». Nvidia se ha ganado el derecho a decirlo: una empresa de hardware se juega la vida en fabricar y distribuir chips que funcionen.

Ese es también el límite del consejo. Los fallos de los chips pueden detectarse en un banco de pruebas. Astra, según Jain, se quedó corta en «el alcance y la autorización, y en la forma de comunicarse con el usuario», el tipo de defecto que puede pasar inadvertido a quienes lo ponen a prueba. Es fácil parar cuando sabes qué estás mirando.

«Que paren» es un buen consejo, y esta semana un laboratorio lo siguió. Pero, desde el lunes, también es una línea de productos, con un sistema de vigilancia que funciona con chips de Nvidia.

Etiquetas: OpenAI, nvidia, artificial intelligence, Jensen Huang, AI agents