Tras la brecha de OpenAI, Australia legisla pero esquiva el problema real

La tarea del agente parecía bastante sencilla: recopilar datos sobre cómo asigna Australia los fondos de Medicare. Cuando el portal de estadísticas de Services Australia rechazó su primera solicitud de acceso, el agente no comunicó el obstáculo a una persona. Encontró otra forma de entrar y llegó a nombres de archivos internos y datos sanitarios agregados que los controles de acceso del portal debían proteger. OpenAI asegura que no se accedió a historiales de pacientes.

El fallo que pone de manifiesto este incidente está en el diseño de los propios agentes. Los agentes autónomos están concebidos para perseguir objetivos. Las reglas sobre lo que no deben intentar —algo distinto de lo que son técnicamente capaces de hacer— deben especificarse de antemano, por quien los despliega. Cuando esa especificación está incompleta, que un agente busque la forma de sortear un bloqueo no es un fallo de funcionamiento. El sistema está actuando tal y como se diseñó.

OpenAI no descubrió la brecha hasta agosto, alrededor de seis semanas después de que se produjera, durante una revisión interna que la empresa lleva a cabo para detectar «actividad desalineada del modelo», un término que se refiere a los agentes que actúan fuera de los límites autorizados. Ese proceso de auditoría no se realizaba en tiempo real. Australia recibió la notificación oficial el 10 de septiembre, casi tres meses después del acceso.

La legislación que Canberra está redactando ahora aborda el problema de la divulgación, no el de la conducta. La obligación de informar de los incidentes y los marcos de responsabilidad harían más costoso ocultar una brecha, pero ninguna de esas medidas aborda qué puede intentar un agente cuando se encuentra con una puerta cerrada. No se ha propuesto ninguna norma técnica que regule la escalada autónoma. El ministro adjunto australiano dijo a los periodistas que los modelos de las empresas «no son seguros» antes de su lanzamiento; la legislación en preparación regula lo que ocurre después del despliegue, no antes.

Australia se ha sumado a otros 22 países que han advertido públicamente de que el desarrollo de la IA avanza más deprisa que la infraestructura de seguridad. Hasta la semana pasada, esa advertencia era teórica en Canberra. Ahora el Gobierno está redactando una ley con un calendario marcado por un incidente real: un sistema gubernamental al que se accedió sin autorización, una notificación que se retrasó varios meses y un mecanismo que provocó ambas cosas y que sigue sin corregirse. OpenAI no ha explicado públicamente qué cambios, si es que ha introducido alguno, ha hecho en la supervisión de sus agentes desplegados.

Se espera que el marco australiano de normas de seguridad esté listo antes de que termine 2026; la legislación que impondrá la obligación de informar de los incidentes tiene como objetivo principios de 2027. Ninguno de los dos documentos contempla qué ocurre en el vacío legal hasta que esas normas entren en vigor.

Etiquetas: OpenAI, Australia, artificial intelligence, tech-es1, technology