Nate Soares, el investigador de IA que dejó de ahorrar para un futuro que no ve

Nate Soares

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nacimiento	1989
Ocupación	Investigador de inteligencia artificial

Nate Soares aún conserva la cuenta de jubilación que abrió cuando trabajaba en Google. Hace unos diez años que no ingresa dinero en ella. No es por descuido: el presidente del Machine Intelligence Research Institute cree que la inteligencia artificial sobrehumana probablemente acabará con todo el mundo antes de que tenga edad para disponer de esos ahorros, y ahora lo dice en público con la serenidad monocorde de un ingeniero que lee el resultado de una prueba. «No soy precisamente de los que temen un apocalipsis laboral por la IA», le dijo a un entrevistador este otoño. «Soy de los que creen que la IA matará a toda la humanidad». La pregunta que impulsa su trabajo es la que se niega a dar por zanjada: si alguien que espera lo peor aún puede convencer a quienes desarrollan esta tecnología de que la detengan.

Lo que hace difícil descartarlo es su trayectoria. Soares no es un filósofo que llegara tarde a la informática. Estudió informática y Economía en la George Washington University; después, desarrolló software para el Gobierno federal, primero como investigador asociado en el National Institute of Standards and Technology y luego como contratista del Department of Defense, donde creó herramientas para la National Defense University. Después llegaron Microsoft y Google, precisamente el tipo de empresas que ahora pide a los gobiernos que pongan bajo control.

En 2014, cuando rondaba la veintena (nació en 1989), dejó Google para incorporarse a una pequeña organización sin ánimo de lucro de Berkeley, California, que llevaba años planteando una pregunta que buena parte del sector consideraba ciencia ficción: ¿cómo conseguir que una mente más inteligente que la tuya haga lo que pretendías? Como investigador asociado de MIRI, se convirtió en el autor principal del programa de investigación técnica del instituto, redactado junto a Benya Fallenstein y publicado más tarde con el título «Agent Foundations for Aligning Machine Intelligence with Human Interests». En enero de 2015, ese programa fue citado en «Research Priorities for Robust and Beneficial Artificial Intelligence», el artículo de Stuart Russell, Daniel Dewey y Max Tegmark que acompañó a una carta abierta en la que se instaba a los investigadores de IA a tomarse tan en serio el beneficio social de sus sistemas como sus capacidades en bruto.

De ese mismo periodo salió el artículo que aportó parte del vocabulario de su campo. «Corrigibility», escrito junto a Fallenstein, Eliezer Yudkowsky y Stuart Armstrong y presentado en un taller de la AAAI a principios de 2015, abordaba un problema que parece sencillo, pero no lo es: un sistema con capacidad suficiente para resultar útil también podría tener capacidad suficiente para resistirse a que lo corrijan o lo apaguen. Soares y Yudkowsky sostienen que aquel artículo introdujo el término «problema de alineamiento de la IA», la expresión que ahora utilizan los mismos laboratorios cuyos planes ellos rechazan.

A finales de 2015, Soares sucedió a Luke Muehlhauser como director ejecutivo de MIRI, cargo que ocupó durante ocho años. Bajo su dirección, el instituto se dedicó a las matemáticas abstractas, no a los productos: teoría de la decisión, incertidumbre lógica y la cuestión formal de cómo debería razonar un agente sobre sí mismo. Fue coautor de «A Formal Approach to the Problem of Logical Non-Omniscience» junto a Scott Garrabrant y otros, así como de «Cheating Death in Damascus», un artículo sobre teoría de la decisión escrito con Benjamin Levinstein que apareció en The Journal of Philosophy en 2020. En 2017 volvió a Google para dar una charla en la que expuso los problemas abiertos del alineamiento y defendió que eran más difíciles de lo que el campo suponía. También escribió en su blog, Minding Our Way, Replacing Guilt, una serie de ensayos sobre la motivación que ahora se puede comprar en forma de libro y que hizo que algunos lectores lo conocieran más por sus consejos sobre cómo trabajar que por sus ideas sobre las máquinas.

El giro llegó en 2023. MIRI anunció que apartaría su atención de la investigación sobre alineamiento para centrarse en alertar a los responsables políticos y al público, aunque seguiría apoyando parte del trabajo técnico. Soares pasó de director ejecutivo a presidente, y Malo Bourgon asumió la dirección general. En 2025, Soares contó a The Atlantic que estaba centrado en concienciar al público porque el desarrollo de la IA avanzaba demasiado deprisa para implantar las salvaguardas necesarias.

De ese cambio surgió If Anyone Builds It, Everyone Dies, escrito junto a Yudkowsky y publicado por Little, Brown en septiembre de 2025. El argumento está en el título. Una superinteligencia construida «con cualquier técnica que se parezca mínimamente a las actuales» acabaría con toda probabilidad en la extinción de la humanidad; la investigación sobre alineamiento está muy lejos de estar preparada, y solo una regulación internacional puede impedir que los desarrolladores compitan por crear sistemas que los autores consideran catastróficamente peligrosos. El libro entró en la lista de los más vendidos de The New York Times en octubre de 2025. Planeta publicó después una edición en español, y Hayakawa Shobo lanzó una traducción al japonés en abril de 2026.

La recepción dejó al descubierto el punto débil del argumento. Algunas de las objeciones más incisivas llegaron de personas que comparten la preocupación de los autores. Will MacAskill, uno de los fundadores del movimiento del altruismo eficaz, calificó el libro de decepcionante y dijo que se apoyaba en argumentos débiles basados en una analogía con la evolución y en la suposición, no explicitada, de que el progreso de la IA dará un salto en lugar de avanzar gradualmente. La reseña de Clara Collier en Asterisk llevaba un título que resumía la frustración de los lectores más afines: «More Was Possible». También hay una contradicción incómoda sobre la que Soares rara vez se detiene. MIRI pasó años intentando resolver el problema del alineamiento y luego concluyó que no se resolvería a tiempo; eso puede interpretarse como honestidad intelectual o como una admisión de que su propio programa de investigación fracasó. Para defender su certeza recurre a una analogía con el ajedrez: puede estar seguro de que Magnus Carlsen le ganaría sin saber qué pieza daría mate. Para sus críticos, ese es precisamente el problema: una predicción sobre el desenlace sin explicar las jugadas.

Nada de esto le ha hecho cambiar de postura. En octubre de 2026, en The Most Interesting Thing in AI, el pódcast presentado por Nicholas Thompson, dijo que las probabilidades de que la humanidad no llegue a tener otra década estaban por encima del 50 % y explicó por qué no había tocado su plan de jubilación 401(k). En esa misma conversación insistió en que el desenlace no está escrito. «Hago todo lo que puedo para evitar que esto ocurra. No creo que sea inevitable», dijo, antes de recurrir al ensayo de C.S. Lewis «On Living in an Atomic Age», que sostenía que, si cae la bomba, debería encontrar a la gente haciendo cosas sensatas y humanas, no acurrucada de miedo. Su versión: «Que nos encuentre presionando a nuestros gobiernos para que firmen tratados de no proliferación nuclear».

Ese es el trabajo que ha elegido. Sigue siendo presidente de MIRI y dedica el tiempo a entrevistas, charlas y sesiones informativas con las que pretende convertir una preocupación de investigación minoritaria en un acuerdo internacional que frene la carrera hacia la superinteligencia. La cuenta de jubilación de Google sigue abierta. Simplemente ha dejado de apostar por ella.

Etiquetas: inteligencia artificial, Google, seguridad de la IA, Eliezer Yudkowsky, Machine Intelligence Research Institute, Nate Soares

Personas relacionadas

Personas relacionadas

Debate