La IA de Google Earth que permitía falsificar imágenes de satélite duró solo un día

Google Earth ha dedicado dos décadas a convertirse en la referencia visual por defecto para cualquiera que intente verificar el aspecto real del mundo físico. Periodistas lo usan para documentar zonas de conflicto. Investigadores de derechos humanos lo emplean para localizar centros de detención. Inspectores de la ONU lo consultan desde la seguridad de una oficina. Google le añadió brevemente algo nuevo: un generador de imágenes por IA conectado directamente al mapa satelital.

La herramienta, construida sobre Nano Banana 2, el modelo propio de generación de imágenes de Google, funcionaba según lo prometido. Los usuarios escribían un texto — «muestra Pompeya antes de la erupción» o «convierte esta costa en una infografía» — y la IA superponía una imagen generada sobre las coordenadas reales correspondientes. Los usos legítimos eran fáciles de imaginar. Los peligrosos resultaron igual de fáciles de ejecutar.

Henk van Ess, periodista de investigación, fue uno de los primeros en documentar el problema. A las pocas horas del lanzamiento, generó una ficticia central nuclear sobre una localización en Irán. El resultado era lo bastante convincente como para ilustrar el riesgo. Más preocupante fue lo que ocurrió al probar la salvaguarda integrada: Google había incrustado marcas de agua SynthID — su capa de autenticación de IA — en cada imagen generada. Van Ess la sorteó fotografiando la pantalla en lugar de hacer una captura. Las herramientas externas de detección de IA calificaron la imagen resultante con solo un 1% de probabilidad de haber sido generada por IA.

La defensa de Google era técnicamente correcta, pero en la práctica insuficiente. La compañía señaló que las imágenes generadas «no aparecían en la experiencia principal de Google Earth para que otros las vieran» — eran específicas de la sesión, visibles solo para el creador. Esa distinción se desvanece cuando fotografías la pantalla y compartes el resultado. Una imagen satelital falsificada de una instalación sensible, circulando solo con un pie de foto, es indistinguible de una creada para engañar.

Existe una tensión estructural que unas salvaguardas más estrictas quizá no resuelvan del todo. La misma capacidad que hace útil la generación de imágenes por IA también la vuelve peligrosa cuando la fuente subyacente son datos satelitales de confianza. Esa confianza se basa en el supuesto de que lo que muestra Google Earth refleja la realidad física. En el momento en que se puede superponer contenido generado sobre coordenadas reales — y la capa de autenticación se burla con una cámara — ese supuesto se resquebraja, y la grieta no se cierra cuando la función se desconecta.

La función se retiró el 31 de julio, menos de 24 horas después de su lanzamiento. Google reconoció haber visto «capturas de pantalla de imágenes generadas que parecen violar nuestras políticas» y se comprometió a implementar «salvaguardas más sólidas» antes de cualquier relanzamiento. No se dio ningún plazo. El momento añade una capa más: desde el 2 de agosto, las disposiciones de ejecución completa de la Ley de IA de la UE están en vigor en toda Europa, haciendo obligatorio el etiquetado de contenido generado por IA que pueda engañar a los usuarios — incluyendo, precisamente, imágenes sintéticas incrustadas en fuentes de información de confianza.

Etiquetas: Google, ia, deepfakes, Google Earth, imágenes satelitales, desinformación