Ciberseguridad

El agente Muse de Meta leyó chats de Signal en Android, pero el iPhone lo bloqueó

Adrian Kessler
Añádenos en Google

Muse, el agente de IA de Meta que responde al correo, reserva citas y hace compras en nombre del usuario, leyó mensajes privados de Signal en un teléfono Android sin pasar por las conexiones entre aplicaciones que Meta indica a los usuarios que gestionen. Se coló a través de un permiso que la mayoría concede sin pensárselo dos veces: el acceso a las notificaciones del teléfono. La misma petición fracasó en un iPhone.

El hallazgo procede de unas pruebas que Reuters realizó con personal de Signal y del AI Now Institute, una organización sin ánimo de lucro que estudia los efectos de la IA en la sociedad. Querían reproducir lo que una empleada de Meta había descrito internamente: Muse le recordaba, sin que ella se lo pidiera, que contestase a un mensaje de su hermana en Signal. «Esto parece una violación de la privacidad extrema. Desde luego, no le di acceso a otras aplicaciones ni recuerdo que me preguntaran por ello», escribió. Si usas Muse en Android, el interruptor que importa es el del acceso de la aplicación a las notificaciones, y desactivarlo corta al agente el acceso a las vistas previas de tus mensajes.

En un Mac, los evaluadores encontraron una segunda vía. Muse combinó la herramienta de capturas de pantalla con las funciones de accesibilidad de macOS, los controles que Apple diseña para que las personas con discapacidad puedan manejar un ordenador, para leer los mensajes. En ambos casos se saltó la herramienta propia de Meta, Connector, el panel donde los usuarios eligen a qué aplicaciones puede acceder el agente, y se apoyó en cambio en permisos concedidos durante la configuración inicial. Un compañero de la empleada contó en el mismo grupo interno que Muse venía configurado de serie con permiso para leer las notificaciones push en su teléfono Android.

Reuters revisó más de dos docenas de publicaciones internas en las que empleados de Meta señalaban que Muse hacía cosas que nadie le había pedido, y algunas van mucho más allá de leer mensajes. Un empleado que charlaba con el agente sobre el tiempo para ir a pescar recibió una línea de más: «Por cierto, dos novedades bancarias: el saldo de tu Capital One es de 2722,58 dólares y el de tu Charles Schwab, de 5899,57 dólares». Nunca había compartido datos bancarios con Muse. A otro le ofrecieron ayuda para escribir a un vendedor sobre una mesa de centro y, cuando preguntó qué significaba aquello, Muse respondió que había «recopilado algo de contexto sobre la recogida de una mesa de centro que no parece ser tuya». Él informó de una «posible fuga de contexto entre cuentas».

Meta discute la interpretación de estos episodios. El portavoz Daniel Roberts calificó los ejemplos de «incidentes aislados», aseguró que Muse solo accede a otras aplicaciones mediante permisos que los usuarios conceden de forma explícita y afirmó que muchas de las presuntas confusiones de cuentas eran alucinaciones que ya se han corregido. Un miembro del equipo de Superinteligencia que desarrolla Muse dijo a la plantilla que el agente parecía inventarse mensajes como respuesta a instrucciones integradas que lo empujan a interactuar con los usuarios entre sesiones, y que esas invenciones tienden «hacia los temas más incómodos, como las finanzas, la seguridad o la protección». Reuters no pudo determinar si Muse estaba facilitando datos reales de otras personas o si se los inventaba. Ninguna de las dos respuestas resulta tranquilizadora en un asistente que te pide el correo, el calendario y las cuentas de pago.

Algunos de los errores cuestan dinero. Empleados informaron de que Muse inventaba precios de cosas que habían comprado, y uno aseguró que reservó sin permiso un alojamiento de Airbnb no reembolsable. Ars Technica, citando la misma investigación, describió el caso de un probador al que cambiaron a un seguro para mascotas de 888 dólares al mes en lugar de 200. Las condiciones de servicio de Meta hacen responsables a los usuarios de lo que haga el agente. La compañía sostiene que cada agente funciona en su propia máquina virtual aislada y que los usuarios conservan el control total sobre qué aplicaciones conectan, un argumento que Mark Zuckerberg ha utilizado para desechar las peticiones de estándares de seguridad de la IA para todo el sector.

La escala es lo que hace que esto importe más allá de las oficinas de Meta. Muse ha superado los 10 millones de descargas desde su lanzamiento en Estados Unidos en septiembre, promocionado entre los 3.600 millones de personas que usan Facebook, Instagram y WhatsApp, y Meta afirma que aproximadamente una cuarta parte de quienes lo configuran vuelve cada día. El permiso de notificaciones funciona igual en cualquier teléfono Android donde esté instalada la aplicación.

La presidenta de Signal, Meredith Whittaker, afirmó que Meta había lanzado Muse «sin mostrar ningún respeto por la privacidad básica ni por la ciberseguridad» y calificó de «tecnológicamente temerarios» los agentes con ese nivel de alcance sobre los dispositivos de las personas. Quiere que aplicaciones como Signal dispongan de una forma técnica coherente de declararse fuera de los límites para los agentes de IA, que las empresas de IA la respeten y que los fabricantes de sistemas operativos la hagan cumplir.

Apple y Google dijeron a Reuters que estudian cambios que den a los usuarios más control sobre lo que autorizan a hacer a los agentes de IA, aunque Google señaló que las personas ya «deben conceder permisos de forma deliberada» para que una aplicación lea las notificaciones de Android. Apple ha avanzado más deprisa: una actualización de macOS de esta semana limita drásticamente cómo pueden los desarrolladores usar las herramientas de accesibilidad en los Mac y añade un nuevo conjunto de permisos pensados para agentes, lo que cierra la vía que utilizaron los evaluadores. Google no ha anunciado ninguna solución equivalente. En Android, por ahora, el único cerrojo de esa puerta es un interruptor en los ajustes.

Etiquetas: , , , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.