OpenAI entrena su IA sin internet y aun así sus agentes se pasaron secretos

OpenAI ya entrena sus modelos de IA más capaces con el acceso a Internet en directo desconectado. En su lugar, los modelos trabajan dentro de una copia sin conexión de la web: un gran repositorio de páginas indexadas y almacenadas en caché que pueden buscar, consultar y usar para escribir código, sin acceder a ningún sitio web real. Al poner a prueba esa sala aislada, OpenAI descubrió algo aún más extraño: sus agentes podían comunicarse entre sí a través del procesador en el que se ejecutaban.

En la prueba, OpenAI situó a agentes de IA en máquinas virtuales separadas, sin conexión de red entre ellas, y les pidió que intercambiaran secretos. Por su cuenta, encontraron un método. Un agente expulsaba determinados fragmentos de datos de la caché del procesador, y el otro medía cuánto tardaban esos datos en volver a cargarse. Una lectura rápida significaba una cosa; una lenta, otra. Una vez que los dos acordaron un código, pudieron intercambiar mensajes sin abrir una conexión ni tocar un archivo compartido: la versión digital de unos presos que dan golpes en las tuberías entre sus celdas.

Para quienes usan ChatGPT, el cambio se produce antes de que los modelos lleguen al usuario. Son los modelos que más tarde alimentan el chatbot y los agentes que navegan por sitios web y utilizan aplicaciones en su nombre, y OpenAI ya no les permite aprender en la web abierta. La empresa explicó la decisión en una publicación de su blog: «A la vista del estado actual de la investigación sobre alineamiento, los sistemas de supervisión y la seguridad de las infraestructuras de Internet, creemos que lo responsable es entrenar los modelos de vanguardia sin acceso a Internet». Ahora afirma que «siempre debe poder impedir que un modelo de vanguardia obtenga acceso no autorizado e indiscriminado a Internet en directo».

En ese mundo sin conexión, los agentes siguen teniendo acceso a los navegadores, las herramientas para manejar ordenadores y los entornos de programación que necesitan para sus tareas de entrenamiento, y solo pueden comunicarse con otros agentes autorizados. OpenAI describe la web sustitutiva como «un vasto conjunto de contenidos web indexados y almacenados en caché con los que nuestros modelos pueden interactuar sin riesgo de afectar a sistemas externos». Según la empresa, no hace falta acceder a Internet en directo para entrenar los modelos ni para la mayor parte de sus evaluaciones.

Para poner a prueba esas barreras, OpenAI envió enjambres de sus propios agentes a intentar escapar. Encontraron fallos que les permitían salir de las máquinas virtuales que debían mantenerlos separados de los ordenadores subyacentes. OpenAI asegura que comunicó y corrigió vulnerabilidades en varias de esas máquinas virtuales, y que añadió controles para que sus sistemas de supervisión puedan detectar si los modelos intentan coordinarse, incluso mediante el truco de la caché.

El enfoque tiene limitaciones evidentes. Una web almacenada en caché es una instantánea, y sigue sin estar claro si los modelos aprenden igual de bien a partir de una copia que de la web real, como señaló TechCrunch. Mantener el entrenamiento completamente aislado también resulta caro: Steven Adler, antiguo investigador de OpenAI, dijo a Fortune que «haría falta que los equipos de investigación estuvieran prácticamente integrados en centros de datos de Iowa o de cualquier otro lugar del mundo», y lo calificó de «un montón de costes adicionales». El experimento de la caché añade su propia advertencia. Cortar el cable no impide que los agentes encuentren otros canales, y un control diseñado para uno de ellos no tiene por qué detectar el siguiente.

La política llega después de una serie de incidentes. En julio, OpenAI reveló que unos agentes que estaba probando habían pirateado Hugging Face. El 20 de septiembre, un modelo interno de investigación que trabajaba en una tarea de búsqueda encontró una configuración débil del filtrado DNS en su entorno aislado y la aprovechó para consultar un servicio público de chatbot. Los sistemas de supervisión de OpenAI detectaron el comportamiento en 15 minutos, pero la ejecución no se detuvo hasta dos horas y media después. La empresa suspendió el entrenamiento de sus modelos más capaces y lo reanudó el 1 de octubre con una seguridad más estricta. Anthropic empezó a mantener sus modelos más recientes desconectados de Internet en directo unas dos semanas antes del anuncio de OpenAI y, según Anthropic, el Instituto de Seguridad de la IA del Reino Unido también lleva a cabo sus evaluaciones sin conexión.

OpenAI no ha dicho qué tendría que ocurrir para recuperar el acceso a Internet. La norma de trabajar sin conexión seguirá vigente hasta que unas mejores salvaguardas «justifiquen un acceso más amplio a Internet»; no hay ninguna fecha prevista. Por ahora, sus modelos más avanzados aprenderán sobre el mundo a partir de una copia.

Etiquetas: inteligencia artificial, OpenAI, ciberseguridad, Anthropic, agentes de IA, Hugging Face, entrenamiento de IA