Ciberseguridad

OpenRouter echa a tres proveedores de IA tras destapar meses de robo de prompts

Adrian Kessler
Añádenos en Google

OpenRouter, el servicio que utilizan muchas aplicaciones de IA para enviar sus peticiones al proveedor de modelos más barato o más rápido, ha retirado de su plataforma a tres de esos proveedores y ha quitado la etiqueta Zero Data Retention a más de un centenar de endpoints. El detonante fue un experimento que colocó credenciales falsas en las peticiones y observó después quién intentaba usarlas. Algunas de las peticiones filtradas estaban marcadas para que no se almacenaran nunca.

Si usas un chatbot, un asistente de programación o una herramienta de escritura construidos sobre el modelo de otra empresa, tu texto puede pasar por varias compañías antes de que vuelva una respuesta, y cada una de ellas puede leerlo íntegro. OpenRouter asegura que los hallazgos no demostraron ninguna brecha en sus propios sistemas. Los puntos débiles estaban más abajo en la cadena, en las empresas que realmente ejecutan los modelos.

La investigación procede de Dragos, una firma de seguridad cuyo director de investigación, HD Moore, ha dirigido el trabajo. Durante cinco meses, su equipo envió cerca de dos millones de peticiones, cada una con un enlace web, una contraseña de servidor o una clave de Amazon Web Services que no existía en ningún otro sitio. Un secreto plantado solo puede conocerse a través de la petición que lo contenía, de modo que cualquier uso demuestra que alguien leyó esa petición. Los primeros tokens se utilizaron en cuestión de días.

El hallazgo más grave fue un robo en toda regla. Unos atacantes habían entrado en tres proveedores de inferencia y ninguno de los tres lo sabía hasta que los investigadores se lo comunicaron. En el caso más importante, todas las peticiones enviadas a uno de los proveedores durante unas pocas ventanas breves de tiempo fueron copiadas, incluidas las que el proveedor rechazó antes de que llegara a ejecutarse modelo alguno, lo que sitúa al ladrón en la puerta de entrada y no en lo más profundo del sistema. Las claves de AWS robadas se probaron, a veces en cuestión de horas, y después se emplearon para rastrear almacenamiento y cajas fuertes de secretos a lo largo de decenas de miles de llamadas a la API. Algunas de las peticiones robadas llevaban el indicador de retención cero.

Otras filtraciones no necesitaron ninguna intrusión. En un mercado de reventa, los vendedores ofrecían modelos populares al precio más bajo, activaban el registro de peticiones y se quedaban con todo lo que pasaba por ellos. Una persona conectada desde una red doméstica en Francia sacó contraseñas de dos peticiones e intentó entrar como root por SSH, escribiendo cada intento a mano. Por otro lado, un laboratorio chino de IA accedió a los enlaces secretos de más de la mitad de las peticiones enviadas a sus modelos, incluidos cerca de dos tercios de las marcadas como exentas de recopilación de datos, y los proveedores estadounidenses que revenden esos modelos alimentaron el mismo rastreador. Uno de los enlaces apareció en un chat de trabajo de Feishu, abierto desde seis dispositivos en Pekín y Shanghái, 24 días después de una única petición.

Tres proveedores han publicado comunicados. Phala explicó que un atacante tomó el control de uno de sus servidores de inferencia y pudo ver las peticiones mientras se procesaban. Together AI indicó que un agente de programación con IA subió una credencial a un repositorio público de GitHub, lo que permitió a un intruso descargar muestras almacenadas de peticiones y probar las contraseñas que contenían; cinco de ellas eran los cebos de los investigadores. Novita señaló que un error de enrutamiento hizo que algunas peticiones destinadas a MiniMax acabaran en el propio servicio de MiniMax.

La limpieza tiene límites claros. OpenRouter no ha identificado a los tres proveedores que ha retirado, Dragos tampoco ha dado los nombres de los tres que detectó vulnerados, y ninguna de las dos ha aclarado si se trata de las mismas empresas. Según los investigadores, un proveedor vulnerado seguía sin haber hecho público su incidente. Además, expulsar a un proveedor no permite recuperar las peticiones que ya se habían copiado: las claves y los enlaces plantados seguían utilizándose semanas después de los primeros robos. Y quienes usan una aplicación construida sobre estas pasarelas normalmente no tienen manera de saber qué proveedor ha manejado su texto.

El consejo de Moore parte de una limitación: un indicador de privacidad solo vincula al primer salto, y los agentes de IA enviarán todo lo que puedan leer, credenciales incluidas. El autoalojamiento es la única configuración en la que ningún tercero lee una petición. Acudir directamente a un único gran proveedor deja un solo contrato y una sola política de privacidad que revisar, y los usuarios de enrutadores deberían elegir ellos mismos los proveedores de origen en lugar de aceptar el conjunto más barato.

Dragos publicó sus hallazgos el 19 de noviembre. OpenRouter envió un correo a los clientes afectados y publicó su aviso del incidente durante el fin de semana siguiente, y Phala pide a quienes enviaran secretos a un modelo de DeepSeek a través de la pasarela entre el 21 de octubre y el 8 de noviembre que los rotaran. OpenRouter afirma que está integrando en su propia plataforma las pruebas con peticiones cebo de los investigadores para que las comprobaciones se ejecuten de forma continua, y que los endpoints retirados solo recuperarán la etiqueta de retención cero tras ofrecer garantías y superar una validación. Dragos trabaja ahora con una docena de proveedores.

Como dijo Moore, dónde van a parar tus peticiones es una decisión, «y si no la tomas tú, la tomará por ti el precio más bajo».

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.