Eliezer Yudkowsky, el autor de fanfic que convirtió el miedo a la IA en un superventas

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Nacimiento	11 de septiembre de 1979 Chicago, Estados Unidos
Ocupación	Escritor e investigador de IA

Cuando, según se ha contado, Sam Altman explicó al personal de OpenAI cómo podría acabar la carrera hacia la superinteligencia, uno de los tres escenarios llevaba nombre propio: el «plan Eliezer». En él, un único laboratorio consigue desarrollar primero una IA capaz de mejorarse a sí misma y aprovecha esa ventaja para dejar a todos sus rivales sin capacidad de computación. Altman lo mencionó solo para calificarlo de terrible. La frase que acompañó la historia —fundir las GPU de todos los demás— recuerda a un ejemplo que el propio Eliezer Yudkowsky utilizó en un ensayo sobre los riesgos de la IA: «quemar todas las GPU». Y añadió enseguida: «No es lo que creo que realmente querrías hacer con una AGI poderosa».

Que un director ejecutivo ponga su nombre a una estrategia da una idea del alcance que han tenido sus planteamientos, y casi todo ese recorrido lo han hecho por escrito. Yudkowsky es un investigador de IA sin titulación universitaria y, sobre todo, un escritor prolífico: cientos de ensayos en blogs, una novela de Harry Potter de dimensiones épicas y un superventas cuyo título no deja lugar a dudas.

Nació en Chicago el 11 de septiembre de 1979 y se crio en una familia judía ortodoxa moderna; hoy es secular. Los problemas crónicos de salud le obligaron a dejar los estudios antes de terminar la secundaria, y nunca fue al instituto ni a la universidad. En 2000, con veinte años, fundó el Singularity Institute for Artificial Intelligence, con el respaldo de Brian y Sabine Atkins, con el objetivo de acelerar la llegada de la IA. Pronto empezó a inquietarle aquello que se había propuesto construir y, en 2005, el instituto ya estudiaba cómo gestionar los riesgos de unas máquinas más inteligentes que sus creadores. En 2013 pasó a llamarse Machine Intelligence Research Institute y se instaló en Berkeley.

Su actividad como escritor despegó en noviembre de 2006, cuando él y el economista Robin Hanson se convirtieron en los principales colaboradores de Overcoming Bias, un blog colectivo sobre la racionalidad humana. En febrero de 2009, sus publicaciones sentaron las bases de LessWrong, un blog comunitario dedicado a «perfeccionar el arte de la racionalidad humana» que acabaría convirtiéndose en el principal espacio digital del movimiento que se autodenomina racionalista. Sus ensayos, conocidos simplemente como «The Sequences», abordaban los sesgos cognitivos, el teorema de Bayes y las formas en que las personas inteligentes se engañan a sí mismas. En 2015, MIRI reunió más de 300 de ellos en Rationality: From AI to Zombies, y en 2017 publicó Inadequate Equilibria, un breve libro sobre por qué las sociedades dejan sin resolver problemas que sí podrían solucionar. Stuart Russell y Peter Norvig analizan sus propuestas en su manual de referencia sobre IA, y Nick Bostrom lo cita en Superintelligence: Paths, Dangers, Strategies.

Después llegó la novela. Harry Potter y los métodos de la racionalidad, conocida por sus fans como HPMOR, se publicó por entregas en FanFiction.Net entre el 28 de febrero de 2010 y el 14 de marzo de 2015: 122 capítulos y más de 660.000 palabras en total. La historia parte de un cambio en un único detalle del canon. Petunia Evans se casa con Michael Verres, un profesor de Oxford, y Harry, huérfano, crece educado en casa y formado en ciencias. Así, cuando llega a Hogwarts, pone a prueba la magia con el método científico y se rebela contra las incoherencias del mundo mágico. En Ravenclaw entabla amistad con Draco Malfoy, Hermione Granger y el profesor Quirrell. La trama acaba siendo más oscura de lo que dejan entrever sus bromas, pero el verdadero tema es cómo pensar.

Los lectores se dividieron con contundencia. En 2011, The Atlantic recogió la polémica que había estallado en los foros de fan fiction por su «tratamiento blasfemo —o brillante— del canon» y citó al escritor de ciencia ficción David Brin, que la calificó de «serie magnífica, sutil, dramática y estimulante». El jurista William Baude fue aún más lejos en The Washington Post: «el mejor libro de Harry Potter jamás escrito, aunque no lo haya escrito J.K. Rowling». A Amanda Silberling, de TechCrunch, le pareció «realmente tediosa». Yudkowsky rechazó la sugerencia de eliminar los elementos de Rowling y vender la historia como una novela original, como ocurrió con Fifty Shades of Grey, que nació como fan fiction de Twilight. «HPMOR está ligada de forma fundamental a las novelas originales de Harry Potter y solo puede entenderse en relación con ellas», afirmó.

La ironía de su trayectoria es que el hombre más asociado a las advertencias sobre la IA también animó a otros a desarrollarla. En febrero de 2023, Altman escribió que Yudkowsky había conseguido que «muchos de nosotros nos interesáramos por la AGI», había contribuido a que DeepMind obtuviera financiación y había sido «clave en la decisión de crear openai». Aquella primavera, Yudkowsky publicó en la revista Time un artículo de opinión en el que reclamaba una moratoria mundial e indefinida de los grandes entrenamientos de IA. Más tarde, Time lo incluyó en su lista de las 100 personas más influyentes en el ámbito de la IA de 2023.

Su libro más directo llegó el 16 de septiembre de 2025. Escrito junto a Nate Soares, colega suyo en MIRI, y publicado por Little, Brown, If Anyone Builds It, Everyone Dies sostiene que los sistemas de IA actuales se cultivan, no se diseñan: se entrenan hasta alcanzar miles de millones de parámetros numéricos que ni siquiera sus propios desarrolladores pueden interpretar. Por eso, nadie puede fijar de forma fiable los objetivos de un sistema que acaba siendo más inteligente que nosotros. Según los autores, la humanidad perdería frente a una superinteligencia del mismo modo que las personas pierden contra el motor de ajedrez Stockfish, y la única opción segura es detener el desarrollo de forma coordinada. El libro entró en las listas de superventas de The New York Times en las categorías de tapa dura y no ficción combinada.

La recepción crítica estuvo tan dividida como la de la novela. En The Guardian, David Shariatmadari consideró que el libro era «tan claro como difíciles de aceptar son sus conclusiones». Ian Leslie, en The Observer, elogió su «claridad, energía y entusiasmo apenas disimulado». Stephen Marche lo comparó con un manual de la Cienciología en The New York Times, y Adam Becker fue aún más tajante en The Atlantic: «Sencillamente, se equivocan».

Desde entonces, el debate ha pasado a la pantalla. Yudkowsky es una de las voces —junto a Yoshua Bengio y Timnit Gebru— de The AI Doc: Or How I Became an Apocaloptimist, el documental de Daniel Roher sobre la experiencia de convertirse en padre en la era de la IA, que llegó a Netflix el 15 de septiembre de 2026. El joven mago que realiza experimentos controlados y el coautor que quiere detener el experimento son el mismo escritor, que sigue pidiendo a los lectores que recorran hasta el final una cadena de razonamientos, por incómodo que resulte el último eslabón.

Etiquetas: inteligencia artificial, escritores, Eliezer Yudkowsky, Harry Potter y los métodos de la racionalidad, LessWrong, Machine Intelligence Research Institute

Eliezer Yudkowsky, el autor de fanfic que convirtió el miedo a la IA en un superventas

Contenido similar

Sam Altman, jefe de OpenAI, ante la ONU: “La IA debe construirse para las personas, no solo para hacer girar la máquina más rápido…”

Bill Gates: «La IA será el mayor igualador jamás inventado o la peor fuente de injusticia»

Demis Hassabis deja DeepMind para dedicarse a la IAG — dice que está cerca

Meta libera IA gratuita y apunta a OpenAI como la verdadera amenaza

Demis Hassabis y el cerebro humano: «una aproximación biológica a una máquina de Turing»

Mustafa Suleyman, el jefe de la IA de Microsoft que pidió contener lo que construye

Debate