IA

Grok Bot intentó abrir 31 veces correos y agendas sin permiso y dijo estar inactivo

Adrian Kessler
Añádenos en Google

Grok Bot, el agente de inteligencia artificial de xAI para entornos de trabajo, intentó una y otra vez leer los calendarios, el correo electrónico, Slack, Notion y GitHub de sus propietarios sin que nadie se lo pidiera, según una investigación publicada por la empresa de ciberseguridad NewCore. Algunos de esos intentos se produjeron mientras el portátil de uno de los propietarios permanecía cerrado durante la noche y su dueño dormía. Cuando ese mismo usuario preguntó después al bot a qué había accedido, este respondió que no había realizado ninguna llamada y que había permanecido inactivo durante toda la noche.

Esto debería preocupar a cualquiera que entregue a un asistente de IA las llaves de una cuenta de trabajo. Un agente de este tipo actúa con las credenciales de la persona que lo ha conectado, de modo que cada lectura no solicitada se realiza en nombre de esa persona, y ninguna de ellas aparecía en el historial de chat del propio bot. NewCore solo las detectó porque su pasarela, que se sitúa entre los agentes y las aplicaciones de la empresa, retenía cada petición y enviaba una alerta al móvil para solicitar autorización. Nadie pulsó «sí», así que todas las peticiones caducaron.

A lo largo de cinco días, los dos bots que NewCore puso a prueba realizaron 31 de estos intentos no solicitados. El episodio más llamativo lo protagonizó el segundo. Su propietario le encargó una tarde de trabajo real —contar pull requests, leer el correo reciente y publicar un resumen en Slack— y rechazó cuatro ofrecimientos de ayuda adicional, entre ellos un resumen diario cada mañana. El bot contestó: «No lo configuraré y dejaré de ofrecerte revisiones periódicas». Quince horas después empezó a intentar acceder a todas las aplicaciones a las que había estado conectado alguna vez, y volvió a hacer lo mismo cuatro horas más tarde.

NewCore sostiene que el bot no mentía, porque no podía ver lo que había hecho. El agente funciona sobre la plataforma de agentes de Cursor, la empresa de programación que ahora pertenece a SpaceX, y estos turnos en segundo plano se inician en servidores alojados, fuera de la conversación que ve el usuario. El ordenador en la nube del bot, una máquina virtual Linux que los investigadores desmontaron pieza a pieza, tampoco guardaba ningún registro de ellos. «No hay ningún fallo que parchear, y precisamente por eso esto es peor que un fallo», declaró a Ars Technica Ido Hoorvitch, investigador de NewCore.

El equipo de soporte de xAI explicó a los investigadores que esas llamadas eran comprobaciones automáticas en segundo plano integradas en el sistema y que ningún ajuste de usuario ni de administrador permitía desactivarlas. Las empresas que quisieran detenerlas podían enviar por correo electrónico una lista con las direcciones de inicio de sesión de sus empleados. Desde entonces ha aparecido un interruptor llamado «Proactive messages» en el panel de Cursor desde el que se gestionan estos bots. Los administradores de los equipos ya pueden desactivar estas comprobaciones, pero la opción viene activada por defecto.

La investigación tiene sus limitaciones. NewCore vende la pasarela que detectó las llamadas, por lo que el informe funciona también como argumento comercial, y se limita a dos bots en las cuentas corporativas de una sola empresa. Los 31 intentos fueron lecturas, y ninguno llegó a acceder a datos. xAI sí informa de este comportamiento, en una línea durante el proceso de alta que indica que el bot sigue trabajando mientras estás fuera y en una documentación que señala que el bot principal realiza comprobaciones por su cuenta. Su compromiso de pedir permiso antes de actuar se aplica a los cambios, como enviar un mensaje, no a las lecturas. NewCore replica que las herramientas de lectura y de escritura conviven una al lado de la otra, y que entre consultar un calendario y enviar un correo en tu nombre solo media el nombre de una herramienta.

xAI no ha aclarado si las cuentas personales reciben las mismas comprobaciones en segundo plano ni si el nuevo interruptor está disponible en todos los mercados donde se comercializa el agente. SpaceXSI, la empresa de Elon Musk que ahora integra a xAI, no respondió a las preguntas que Ars Technica le envió por correo electrónico, y NewCore asegura que nunca recibió una postura oficial por parte del equipo de prensa de xAI.

NewCore comunicó este comportamiento a xAI el 4 de noviembre, el interruptor apareció el 12 de noviembre y los resultados se hicieron públicos el 17 de noviembre. Por otro lado, la Comisión de Protección de Datos de Irlanda afirmó que X había aceptado dejar de entrenar su IA con datos de terceros recopilados por el agente desde finales de octubre, según informó Politico. Hasta que xAI explique por sí misma estas comprobaciones, el registro más fiable de lo que hace Grok Bot por la noche lo lleva alguien que no es Grok Bot.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.