El rey Carlos advierte del ‘peligro existencial’ de la IA a quienes la construyen

“Aquellos que han creado estas tecnologías ahora advierten cada vez más de que la IA corre el riesgo de desarrollar capacidades más oscuras — quizás incluso de quitar vidas.” La frase que eligió el Rey Carlos no era una advertencia sobre piratas informáticos o estados hostiles. Era un espejo, sostenido ante las personas que construyen los sistemas, y la advertencia que contenía era una que atribuía a ellos.

Esa es la mitad del discurso que la mayor parte de la cobertura pasó por alto. La frase que viajó fue la más suave de las mismas declaraciones — los “peligros existenciales de que tales tecnologías caigan en manos equivocadas.” Manos equivocadas es un marco cómodo si eres quien envía la herramienta. Pone el peligro ahí fuera, en algún villano que usa mal un instrumento neutral, en lugar de en el propio instrumento o en las empresas que compiten por hacerlo más capaz. Carlos se negó a dejarlo ahí.

En cambio, señaló el riesgo de vuelta a su origen. Los creadores son los que ahora están dando la voz de alarma, dijo — y luego planteó una pregunta a la sala con un filo: “Seguramente, ¿necesitamos medios de control suficientes antes de que sea demasiado tarde?”

El peso de esa oración recae en una palabra. El control es la única cosa que una reunión como esta no puede realmente entregar. No tiene poder legal, no impone ningún límite que una empresa deba obedecer, y no conlleva ninguna penalización por ignorarlo. Lo que surgió fue un acuerdo para perseguir “principios compartidos” — una frase que describe una aspiración, no un mecanismo. Los ejecutivos, según todos los relatos, estaban agradecidos por la conversación. La gratitud no es una salvaguarda.

Hay una inversión institucional aquí que es fácil pasar por alto bajo la ceremonia. Un monarca no tiene palanca sobre Nvidia, OpenAI, Anthropic o Google DeepMind. No puede licenciar un modelo, auditar un entrenamiento o ralentizar un lanzamiento. Las personas que pueden hacer esas cosas — legisladores, reguladores de competencia, el ministro que de hecho estaba sentado en la sala — no eran quienes convocaban. Una figura con autoridad simbólica y sin poder de ejecución estaba pidiendo a las personas con todo el poder libre de ejecución en el mundo que por favor se autorregularan. Eso es aproximadamente el arreglo que la industria ha preferido desde siempre.

Visto así, la cumbre hizo un favor silencioso a los creadores. Permitió que la historia se convirtiera en “manos equivocadas,” el marco en el que la tecnología está bien y solo su abuso es el problema. Convirtió una advertencia sobre la capacidad inherente — la máquina que desarrolla “capacidades más oscuras” en su propia trayectoria — en un debate familiar sobre actores maliciosos. Y envolvió todo en la legitimidad de una Corona que, por muy sincera que sea, no puede exigir ni una sola de las salvaguardas que solicitó.

La reunión tuvo lugar en Dumfries House, la finca georgiana restaurada del Rey en Ayrshire, Escocia. En la sala estaban el director ejecutivo de Nvidia, Jensen Huang; el fundador de Google DeepMind, Demis Hassabis; la directora financiera de OpenAI, Sarah Friar; el director de asuntos globales de Anthropic, Tino Cuéllar; el ministro de Inteligencia Artificial del Reino Unido, Kanishka Narayan; y el padre Paolo Benanti, asesor del Vaticano en ética tecnológica. Carlos se encargó de reconocer también la promesa de la IA — especialmente en medicina — y de señalar su coste medioambiental. Pidió a los invitados que mantuvieran la tecnología “firmemente al servicio de la humanidad, la comunidad y el mundo natural.” Ningún compromiso vinculante salió de la sala con ellos.

Así que las personas más poderosas del campo escucharon a un jefe de estado describir su producto como capaz, por sí mismo, de quitar vidas — y salieron con su marco preferido intacto y una audiencia real para mostrar. Los medios de control que el Rey pidió siguen exactamente donde estaban antes de que hablara: en las manos a las que se dirigía, y de nadie más.

Etiquetas: OpenAI, artificial intelligence, Jensen Huang, Gong Yoo, AI safety, Sundar Pichai, AI risks