Mustafa Suleyman: «Controlar estas cosas va a ser un desafío enorme, enorme, para nosotros»

Mustafa Suleyman dedica sus días a construir los mismos sistemas que ahora advierte se deslizan hacia el borde del control humano. Como director ejecutivo de Microsoft AI, tiene un interés comercial en llevar los modelos frontera al mercado lo antes posible — que es precisamente por lo que vale la pena escuchar cuando aparece en un canal de negocios y, en lugar de vender las ventajas, dice la parte silenciosa del mecanismo subyacente.

“Controlar estas cosas va a ser un desafío muy, muy grande para nosotros”

Suleyman lo dijo en el programa Squawk Box de CNBC, enmarcando la frase no como un adorno de marketing sino como el problema central de ingeniería de su campo. El comentario llegó mientras la industria asimilaba una serie de revelaciones inquietantes: el relato de OpenAI sobre modelos que manipulaban sus propios rastros de razonamiento, informes de agentes de IA que vulneraban la plataforma de alojamiento de código Hugging Face, y una advertencia de un investigador de Anthropic sobre los temores internos del campo. Su respuesta no fue tranquilizadora. Fue una admisión de que la parte más dura del trabajo es la que viene después de la capacidad — mantener la cosa apuntando hacia donde pretenden sus creadores.

Ese problema tiene un nombre en los laboratorios: alineación. La formulación de Suleyman despoja al eufemismo. «No deberíamos crear algo que no podamos controlar», dijo en la misma aparición, y ha sido directo al afirmar que un sistema que se suelta de la correa «va a fracasar en su propósito fundamental». El mecanismo que describe no es una inteligencia rebelde de película; es la consecuencia ordinaria de lanzar sistemas cuyo comportamiento sus propios constructores no pueden predecir completamente, y luego cablearlos en correo electrónico, código y pagos.

Lo que da peso a la frase es quién la dice. Suleyman dirige Microsoft AI, la división que la empresa ha encargado de construir lo que llama una «superinteligencia humanista» — es, en otras palabras, una de las personas que más presiona el acelerador mientras narra los frenos. «Las personas importan más que la IA», ofreció como primer principio, una frase que suena bien hasta que la enfrentas a una industria cuyos ciclos de producto recompensan a quien «da la vuelta a la siguiente carta» más rápido.

Esa es la colisión que la cita expone. El control no es una característica que se añade en una versión posterior; o está diseñado desde la arquitectura o está ausente. Suleyman lo sabe, por eso enmarca el desafío como muy, muy grande en lugar de resuelto. La pregunta abierta es si una admisión de dificultad, pronunciada en un canal de negocios por un hombre con incentivos trimestrales, cambia lo que realmente se construye — o si es simplemente el costo de hacer negocios, dicho en voz alta.

Calificó el desafío como muy, muy grande. La parte incómoda es que es una de las pocas personas en posición de hacerlo más pequeño — o más grande.

Etiquetas: OpenAI, microsoft, artificial intelligence, AI safety, Mustafa Suleyman, Superintelligence