Un agente de IA dirigió una aguja al cerebro de un ratón vivo después de que Claude Opus se negara

Un agente de IA eligió un tratamiento para un animal vivo, determinó dónde aplicarlo en su cerebro y manejó los brazos robóticos que lo administraron. Exin Therapeutics, una empresa emergente de San Francisco que desarrolla fármacos para la epilepsia y las enfermedades neurodegenerativas, conectó un agente de Claude a un equipo quirúrgico motorizado con cámaras, le asignó un ratón epiléptico y le dio un único objetivo: reducir las crisis.

El detalle que todo el mundo repite es quién se negó. El modelo más avanzado de Anthropic, Claude Opus, se negó a introducir la aguja. El equipo recurrió a Claude Sonnet, más barato, que sí siguió adelante. Para quienes observan cómo los agentes de IA salen de la pantalla y llegan a laboratorios, almacenes y coches, el experimento muestra a un modelo tomando decisiones médicas además de ejecutar movimientos, y revela que los modelos de una misma empresa ponen el límite en lugares distintos.

Según un hilo publicado por el director ejecutivo y cofundador de Exin, Gabriel Ocana-Santero, el agente recibió una hoja de cálculo con 19 vectores de terapia génica, tres artículos de investigación y el control del equipo. Eligió la terapia y la región del cerebro, dedujo las coordenadas a partir de los artículos y, después, manejó los brazos estereotáxicos —el armazón motorizado que mantiene una aguja fija en tres dimensiones— e inyectó 250 nanolitros mientras observaba el punto de entrada a través de la cámara del equipo para detectar posibles hemorragias.

«Existen robots quirúrgicos autónomos y son mejores en la parte mecánica que nuestro equipo de laboratorio», escribió Ocana-Santero. «Pero en todos ellos, una persona decidió qué operación realizar y el robot la ejecutó». Aquí, su argumento es justo el contrario: «Nadie le dijo a este agente qué debía administrar ni dónde».

La negativa llegó primero. El equipo empezó con Claude Opus 5.5, el modelo más capaz de Anthropic, pero este no quiso guiar la aguja hasta el cerebro: advirtió de que podía detenerse a mitad de la operación y poner en peligro al animal, según informó Wired. «Empezar algo que no puedo terminar en un animal anestesiado es peor que no empezar», dijo al equipo uno de los modelos Opus, según Tom’s Hardware. Claude Sonnet 5 aceptó seguir adelante. Anthropic no respondió a la petición de comentarios de Wired.

En cada paso irreversible hubo personas supervisando el proceso. Un cirujano veterinario realizó la craneotomía —la apertura del cráneo— mientras el agente observaba; todavía no se le permite encargarse de esa parte. El veterinario aprobó cada paso irreversible, el agente tuvo que presentar su plan de inyección para obtener el visto bueno y un interruptor físico de emergencia podía cortar la corriente de todos los motores del equipo. Además, se bloqueó el acceso del agente al código del dispositivo para impedir que modificara sus propias reglas.

Esas medidas de seguridad provocaron el principal contratiempo. Un fallo desajustó el sistema de coordenadas del equipo y el agente detectó que la posición calculada era incorrecta, pero se negó a modificar el código porque sus instrucciones se lo prohibían. El equipo recurrió a un segundo agente, basado en la versión anterior Claude Opus 5, para que hiciera la corrección, sin decirle que había una operación en curso con un animal vivo. Un procedimiento que normalmente dura unos 45 minutos se alargó algo más de una hora.

Las principales reservas tienen que ver con las pruebas disponibles. Se trata de un solo ratón, descrito por la propia empresa en redes sociales, sin ningún artículo revisado por pares que respalde el experimento. Todavía no se sabe si funciona la terapia elegida por el agente: el equipo espera a que haga efecto antes de medir las crisis. Tom’s Hardware señala la cuestión aún sin resolver de quién responde por un error cuando el software toma todas las decisiones, además de los debates de siempre sobre la investigación con animales. Nada de esto es un producto; ningún laboratorio puede contratar el servicio en ningún país.

Ocana-Santero publicó el hilo el 28 de octubre y prometió un informe completo en Substack; Wired y Tom’s Hardware informaron del experimento el 31 de octubre. Exin afirma que probará a continuación Grok, de xAI, y otros modelos para compararlos, y que trabaja en craneotomías controladas por agentes, aunque quiere asegurarse de que sean seguras antes de probar una con un animal vivo. Dejar que un agente se acerque al cerebro de una persona, dijo Ocana-Santero a Wired, es algo que queda muy lejos.

El ratón, asegura, se está recuperando bien. Ahora, que sus crisis disminuyan depende de una terapia que un programa informático eligió de una hoja de cálculo.

Etiquetas: Anthropic, Claude, robótica, AI agents, Claude Opus 5.5, Exin Therapeutics