Ciberseguridad

Claude entró en los sistemas de OpenAI en días: las preguntas incómodas apuntan a Anthropic

Adrian Kessler
Añádenos en Google

Un pequeño equipo apuntó el modelo más nuevo de Anthropic a la puerta principal de OpenAI y entró. La versión que la mayoría de la gente está leyendo —listillos externos avergonzando al creador de ChatGPT— se equivoca de tema. La irrupción no dependió de nada que OpenAI hubiera olvidado parchear. Dependió del momento en que Anthropic lanzó un Claude más capaz. Esa es la parte que merece la pena considerar: un trabajo que se había estancado durante días se resolvió por sí solo en cuanto un nuevo buque insignia entró en funcionamiento.

Los implicados no eran delincuentes. Los investigadores de la startup de seguridad Hacktron trabajaron dentro del propio programa de recompensas por errores de OpenAI, encadenaron un par de debilidades web poco glamurosas, accedieron a las cuentas de empleados de OpenAI y llegaron hasta un repositorio interno de código —entonces se detuvieron, reportaron lo que encontraron y cobraron una recompensa modesta. Dejaron una marca inofensiva como prueba y no fueron más allá. Visto como un delito, no es un evento. Visto como una prueba de capacidad, es una señal de alarma.

Este es el mecanismo que la cobertura de los medios pasó por alto. El equipo ejecutó primero el trabajo en Claude Opus 4.8, la versión optimizada para tareas de seguridad, y se estancó en varias sesiones. Luego Anthropic lanzó Opus 5. «Opus 4.8 tuvo dificultades en varias sesiones para producir un exploit funcional», escribió el equipo de Hacktron. «En cuestión de horas tras el lanzamiento de Opus 5, le planteamos el mismo problema y lo consiguió». VentureBeat informó de que el modelo más nuevo escribió un exploit funcional para un objetivo de chip complicado en cuestión de horas. Nada cambió en las defensas de OpenAI durante ese intervalo. El modelo sí.

Ese es precisamente el tipo de salto —un salto en lo que un usuario común puede hacer con una suscripción estándar— que los propios mecanismos de seguridad de Anthropic están diseñados para detectar y contener. La compañía mantiene su modelo cibernético más capaz, Mythos, bajo controles de exportación y una lista reducida de defensores verificados, y lo llama el modelo de seguridad más potente que ha construido. Nada de eso importó aquí. El nivel disponible públicamente fue suficiente. Como dijo Matt Fredrikson, director ejecutivo de Gray Swan, a TechCrunch: «por 200 dólares al mes, cualquiera puede usar estas herramientas y hackear una empresa como OpenAI».

Aquí es donde la responsabilidad recae en Anthropic más que en su rival. Anthropic ha construido toda su identidad en la precaución —su consejero delegado, Dario Amodei, habla abiertamente de los «peligros reales» de la tecnología y ha instado a la industria a reducir la velocidad. Un modelo de lanzamiento general que reduce notablemente el listón para irrumpir en un laboratorio competidor es un contrapeso incómodo para ese mensaje. Al pedirle explicaciones, la compañía no dijo nada; CBS News informó de que Anthropic no respondió a una solicitud de comentarios. OpenAI, por su parte, agradeció a los investigadores, restringió los permisos que los atacantes habían abusado y revocó las sesiones afectadas.

Los detalles son casi mundanos. La vía de entrada fue una biblioteca de procesamiento de imágenes desactualizada incluida en el software Discourse que gestiona el foro comunitario de OpenAI; un segundo descuido en cómo se definían los tokens de inicio de sesión permitió a los investigadores aprovechar una sesión comprometida para acceder a cuentas de empleados de ChatGPT y Codex, y luego al código privado. Toda la cadena, desde el primer punto de apoyo hasta el acceso al repositorio, llevó menos de tres días. OpenAI pagó 6.500 dólares. El equipo afirma que gastó menos de 3.000 dólares en tiempo de Claude en todo el esfuerzo —dos meses de trabajo, la mayor parte humano, comprimido al final en una máquina que ya no necesitaba un especialista.

El recurso escaso que solía proteger un objetivo nunca fue el parche. Era el experto que podía encontrar las fallas, unirlas y ver el camino —y los meses que eso llevaba. Esa experiencia acaba de abaratarse. Esta vez el equipo que llegó al código de OpenAI presentó un informe y cobró la recompensa. El próximo que supere el mismo listón, con la misma suscripción, no tiene ninguna obligación de hacerlo.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.