Ciencia

Meredith Whittaker, la presidenta de Signal que se enfrenta a la IA de Apple y Google

Penelope H. Fritz
Añádenos en Google
Meredith Whittaker
Meredith Whittaker
Photo: Martin Kraft / CC BY-SA 4.0, via Wikimedia Commons
Nacimiento2000
OcupaciónPresidenta de la Signal Foundation
PremiosPremio Helmut Schmidt Future

El viernes, Signal activó un ajuste que la mayoría de sus usuarios nunca llegará a notar. En los iPhone nuevos, la aplicación impide ya que Siri, la IA de Apple, lea lo que aparece en pantalla dentro de un chat y bloquea por defecto las capturas de pantalla; en Android, cierra la ventana en cuanto Gemini, de Google, intenta mirar. Meredith Whittaker, presidenta de Signal, anunció ella misma el cambio y, en la misma publicación, admitió que no bastaba. Los agentes que Apple, Google y Microsoft están integrando en sus sistemas operativos siguen pudiendo acceder a lo que se almacena en el dispositivo, y en un Mac Signal no puede detenerlos en absoluto. Los calificó de amenaza existencial para la aplicación que dirige.

La batalla le va como anillo al dedo, pero también deja al descubierto el dilema que atraviesa toda su carrera. Whittaker pasó más de una década en Google antes de convertirse en una de las críticas más afiladas del modelo de negocio que pagaba su sueldo. Ahora dirige una aplicación de mensajería sin ánimo de lucro que se niega a recopilar datos, no vende nada y depende de donantes, pero que tiene que vivir en móviles fabricados por las mismas empresas cuyos productos de IA tilda de temerarios. Signal puede cifrar un mensaje de extremo a extremo. Lo que no puede es cifrar el sistema operativo.

Su camino hacia la tecnología no fue el más previsible. Whittaker estudió Retórica y Literatura Inglesa en la Universidad de California en Berkeley y entró en Google en 2006, donde permaneció trece años. Fundó su grupo Open Research, que trabajó con académicos y desarrolladores de código abierto en la medición de la neutralidad de la red, la privacidad y la seguridad, y cofundó M-Lab (Measurement Lab), una red abierta que se ha convertido en la mayor fuente pública de datos sobre el rendimiento de internet.

La medición le enseñó a desconfiar de las afirmaciones que llegan sin pruebas. En 2017 cofundó, junto con la investigadora Kate Crawford, el AI Now Institute en la Universidad de Nueva York, tras un simposio organizado por la Casa Blanca. El instituto estudiaba lo que la inteligencia artificial hace a las personas sobre las que se aplica, y no lo que es capaz de hacer en una demostración, y sus informes volvían una y otra vez a un mismo argumento: que el problema de fondo tenía menos que ver con un código sesgado que con quién es el dueño de estos sistemas y hacia quién se dirigen. Más tarde ocupó la cátedra de investigación Minderoo en la NYU y fue directora de la facultad de AI Now; hoy es su asesora jefe.

Ese argumento la puso en rumbo de colisión con su empleador. En 2018 redactó una petición contra el Proyecto Maven, un contrato del Pentágono por el que Google desarrollaba herramientas de visión artificial para el programa de drones de Estados Unidos. La firmaron más de tres mil empleados y Google no renovó el contrato. Meses después fue una de las principales organizadoras de la huelga de Google (Google Walkout), cuando más de veinte mil trabajadores abandonaron sus puestos tras conocerse que la compañía había pagado 90 millones de dólares como indemnización de salida a Andy Rubin, un directivo acusado de conducta sexual inapropiada. Whittaker aseguró después que Google tomó represalias y le ordenó abandonar su trabajo en AI Now. Dejó la empresa en julio de 2019.

Ese mismo verano advirtió ante el Comité de Ciencia de la Cámara de Representantes de que los sistemas de IA pueden afianzar los sesgos y pidió protección para los denunciantes del sector tecnológico. A principios de 2020 fue más allá ante el Comité de Supervisión de la Cámara, al sostener que el problema del reconocimiento facial no era solo su precisión, sino el poder de quienes lo aplican sobre personas con menos poder, y reclamó que se dejara de usar. Desde noviembre de 2021 fue asesora principal en inteligencia artificial de la presidenta de la Comisión Federal de Comercio, Lina Khan.

Signal la fichó en septiembre de 2022 como su primera presidenta, un cargo creado de acuerdo con la dirección de la aplicación. Signal no incluye publicidad y no tiene datos de usuarios que vender, y Whittaker ha dicho abiertamente que mantenerla cuesta unos 50 millones de dólares al año. Buena parte de sus primeros tiempos al frente se fue en explicar por qué una aplicación de mensajería que apenas guarda nada de sus usuarios necesita, aun así, un gran equipo de ingeniería y donantes constantes, y por qué la alternativa es cobrar en vigilancia.

Sus críticos señalan los límites de ese modelo. El protocolo de cifrado de Signal ya protege las conversaciones de WhatsApp, y sin embargo la aplicación sigue siendo una fracción del tamaño del producto de Meta construido sobre su criptografía; además, la influencia de Whittaker sobre los gobiernos descansa en gran medida en una sola amenaza: que Signal abandonará un país antes que debilitar su cifrado. La ha dirigido contra la Unión Europea y, de nuevo en junio, contra el Reino Unido. La amenaza es creíble porque una aplicación financiada con donaciones no tiene accionistas a los que contentar, pero también hace que la respuesta de Signal a los reguladores se parezca más al exilio que a la negociación. El episodio que más atención le ha granjeado a la aplicación mostró una brecha parecida. Cuando en marzo de 2025 se descubrió que altos cargos estadounidenses habían hablado de planes militares en un grupo de Signal al que se había incorporado por error a un periodista, Whittaker defendió el cifrado como el patrón oro de la comunicación privada y recordó que ninguna aplicación puede impedir que alguien añada a la persona equivocada a un chat. Una visibilidad de esa magnitud es difícil de rechazar y más difícil aún de controlar.

Desde entonces, su atención ha pasado de los gobiernos a las empresas que fabrican los dispositivos. En Davos, en enero, calificó de peligrosos para los servicios cifrados los agentes de IA integrados en los sistemas operativos y advirtió de que un sistema con acceso root puede ser secuestrado. En una entrevista con Bloomberg en junio dijo que los chatbots no son tus amigos y describió como una especie de puerta trasera a un asistente con acceso a sus datos de pago y a su cuenta de Signal. Esta semana, unas pruebas realizadas por Reuters con personal de Signal y de AI Now comprobaron que el agente Muse de Meta leía chats de Signal en Android a través del acceso a las notificaciones, y Whittaker tachó de tecnológicamente temerarios los agentes con ese alcance.

En 2023, la revista TIME la incluyó en su primera lista de las personas más influyentes en inteligencia artificial. En mayo de 2024 recibió en Hamburgo el Premio al Futuro Helmut Schmidt, concedido por Die Zeit y sus socios por su labor en favor de la democracia y la tecnología, y en julio de 2025 se incorporó al consejo de administración del grupo de medios alemán Hubert Burda Media.

Lo que ocurra a partir de ahora depende menos de Signal que de Apple, Google y Microsoft. Whittaker ha pedido a las tres una vía documentada para que las aplicaciones puedan mantener a los agentes de IA alejados de sus pantallas y sus datos, y Signal afirma que es cautelosamente optimista sobre el interés que muestran Google y Apple. Si lo construyen, el bloqueo que activó esta semana se convertirá en un estándar del sector. Si no, la aplicación de mensajería más privada del mercado seguirá lanzando soluciones provisionales contra los teléfonos en los que funciona, y su presidenta seguirá diciéndolo en público.

Etiquetas: , , , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.