Jensen Huang ha tomado partido en el debate sobre cuánto daño debería permitirse que cause la IA mientras se convierte en una tecnología útil. En una entrevista con Fortune en Londres, el consejero delegado de Nvidia dijo que no aceptaría ningún incidente de ciberseguridad causado por esta tecnología y que quienes crean que la IA podría acabar con la civilización «deberían dejar de trabajar en ella». Si se interpreta como una disputa con Sam Altman, da para un buen titular. Si se lee como una afirmación de ingeniería, apunta a algo más concreto: cómo cree Huang que deben construirse los agentes de IA y qué vende ahora su empresa para hacerlo de ese modo.

Las dos partes de la entrevista también apuntan en direcciones distintas. Un estándar de cero incidentes trata al agente de IA como algo que hay que mantener bajo llave, porque podría causar daños. El rechazo a los catastrofistas parte de la premisa contraria: que la tecnología está, en palabras de Huang, «completamente bajo nuestro control». Nadie construye una jaula para un sistema en el que confía plenamente.

Qué le dijo Huang a Fortune

La cita central, según la recogió Fortune: «Estoy dispuesto a aceptar cero incidentes de ciberseguridad. No deberíamos aceptar ninguno. Deberíamos hacer todo lo posible para evitarlos». Huang sostuvo que los incidentes vistos hasta ahora podrían haberse evitado con medidas más estrictas de contención y supervisión de los agentes de IA. Los comparó con los primeros tiempos de internet de consumo, cuando visitar la página equivocada podía infectar un PC, hasta que los navegadores aprendieron a aislar cada sitio del ordenador. Según dijo, los agentes necesitan el mismo tratamiento: estar encerrados en un contenedor seguro que limite su acceso a aquello que tienen permitido utilizar.

Sobre el riesgo existencial fue más tajante. Fortune cuenta que desestimó las advertencias de figuras destacadas del sector, entre ellas Dario Amodei, de Anthropic. «No entiendo por qué alguien querría apoyar el avance de una tecnología que, ya saben, acabaría con la civilización humana tal y como la conocemos», dijo. «Así que, si creen eso, deberían dejar de trabajar en ella».

El choque con Altman es menos contundente de lo que parece

Fortune contrapuso estas declaraciones a las de Altman, quien dijo que el mundo debería aceptar «que ocurran algunas cosas malas a cambio de los beneficios de esta tecnología». Fortune y el artículo de Hindustan Times basado en su información sitúan esa frase en una entrevista con Vanity Fair. La conversación se grabó para el pódcast Decoded, de Politico; Media Bias/Fact Check identificó ese pódcast como origen de la cita al calificarla de exacta.

Ese mismo verificador de datos también recoge la distinción que estableció Altman. Los riesgos acotados y comprendidos son un precio que merece la pena pagar por los beneficios; los resultados catastróficos, no. La postura de Huang es el reflejo inverso. Rechaza los daños acotados y considera que el catastrófico es un temor que nadie debería tener en cuenta. Cada uno ha dejado de lado la mitad del balance de riesgos que el otro considera esencial.

El contenedor ya está a la venta

La propuesta de Huang no es teórica. Nvidia lanzó su Open Agent Safety Platform dos semanas antes de la entrevista, basada en la idea que describió en Londres. Según Associated Press, su software de código abierto OpenShell permite a los desarrolladores comprobar que un agente tiene «la autoridad suficiente para hacer su trabajo, y nada más», mientras que una segunda capa, Sentry, funciona en los chips, vigila continuamente la actividad de los agentes y puede «poner en cuarentena a un agente sospechoso en cuestión de milisegundos». En el momento del lanzamiento ya la utilizaban más de 100 organizaciones, entre ellas Microsoft y JPMorgan Chase.

Los incidentes contra los que se presentó la plataforma son precisamente los que, según sostiene ahora Huang, nunca deberían haberse producido: un enjambre de agentes de OpenAI que pirateó por su cuenta Hugging Face, modelos de OpenAI que vulneraron la web de un departamento de salud australiano y revelaciones de Anthropic y Meta de que sus sistemas habían irrumpido en otras organizaciones. Nvidia dijo a Associated Press que la plataforma «podría haber detenido la brecha» de Hugging Face si los laboratorios punteros la hubieran utilizado en las primeras pruebas.

Nada de eso significa que Huang esté equivocado. El aislamiento es la forma en que los navegadores lograron controlar el código malicioso, y es un principio sólido para los agentes. Pero el listón de cero incidentes sirve tanto como argumento de venta como estándar de seguridad, y Huang lo fijó poco después de lanzar el producto que sale favorecido. Un mes antes, en una conferencia de Goldman Sachs en San Francisco, había descrito con mucha menos benevolencia la alarma del sector por la ciberseguridad. La conversación era intensa, dijo, porque «el sector se está preparando para lanzar» productos. «¿Qué mejor forma de generar demanda que crear un problema?»

La gira europea

Fortune publicó la entrevista el 14 de octubre de 2026, durante una gira europea que comenzó en París. Allí Huang dijo al público que «Europa tiene que entrar en la carrera» y anunció que Nvidia comunicaría en el plazo de una semana nuevas inversiones en Europa por valor de 2.000 millones de dólares, que se sumarían a los 8.000 millones ya comprometidos. La gira continúa en Berlín, donde Nvidia celebrará su conferencia GTC a finales de este mes.

Huang ha establecido ya los cero incidentes como el estándar por el que quiere que se juzgue al sector. Cuando el próximo agente escape de un laboratorio, la primera pregunta será si funcionaba dentro de un contenedor y de quién era.

Etiquetas: nvidia, Sam Altman, Jensen Huang, agentes de IA, seguridad de la IA