La herramienta de deepfakes con IA de Google Earth duró un día: el problema es la confianza que rompió

La forma más rápida de entender lo que Google acaba de hacerle a Google Earth es fijarse en la velocidad con la que lo deshizo. Una función que permitía a cualquiera pintar una realidad inventada sobre el mapa más fiable del planeta llegó, provocó una oleada de alarma entre quienes verifican imágenes por oficio, y desapareció antes de que la mayoría de los usuarios llegaran siquiera a verla. Google llamó pausa a esa marcha atrás. Suena más a una empresa descubriendo, en público, que había lanzado el producto equivocado en el producto equivocado.

El mecanismo importa más que el espectáculo. Todo el valor de Google Earth es probatorio: es el lugar al que acuden periodistas, tribunales, organismos humanitarios e investigadores de fuentes abiertas precisamente porque una vista de satélite es difícil de falsear. Acoplar un generador de texto a imagen a esa superficie no es añadir un juguete creativo: es degradar la única propiedad que hacía que el producto mereciera confianza. La herramienta hizo aquello para lo que fue construida. Ese era el problema.

La defensa de Google, antes de la retirada, fue una marca de agua. Cada imagen generada, señalaba la compañía, llevaba SynthID, su marcador invisible para contenido de IA, y los usuarios siempre podían verificar una imagen con Gemini o Lens. Pero una marca de agua es una herramienta forense para quienes ya dudan de una imagen y tienen los medios para inspeccionarla. No hace nada en el momento que realmente importa: el scroll, el compartir, la captura de pantalla arrancada de su contexto y empujada a un feed donde nadie se detiene a verificar. Ofrecer SynthID como salvaguarda era menos un control que una coartada: la prueba de que el riesgo se había considerado y se había dejado pasar.

Lo que el mundo exterior produjo en horas es la parte con la que Google debería sentarse. Los investigadores que analizan estos sistemas por oficio no necesitaron semanas. Generaron una planta nuclear en Irán, refugiados agolpándose en una frontera, un cráter de bomba en un hospital, un cráter de explosión situado en una ciudad occidental — el catálogo exacto de imágenes que mueven mercados, inflaman conflictos y superan cualquier corrección. Un investigador informó de que nada de lo que pidió le fue denegado. No es una historia sobre un uso inteligente y malintencionado. Es una historia sobre un lanzamiento que parece no haber superado las pruebas adversariales más básicas antes de salir a producción — pruebas que luego unos desconocidos realizaron gratis, a costa de Google.

Los investigadores de Bellingcat llevan mucho tiempo tratando las imágenes de satélite como una apuesta segura en una economía de la desinformación, precisamente porque la fuente está muy por encima y fuera de alcance. El peligro de una herramienta como esta no es ninguna falsificación concreta. Es el peligro ambiental: una vez que las imágenes falsas de satélite creíbles son triviales de crear, cada imagen real se vuelve discutible. El falsificador gana incluso cuando la falsificación es descubierta, porque la duda es el producto. Ya existe un precedente: durante un reciente conflicto en Oriente Próximo circularon imágenes satelitales falsas de una base estadounidense dañada, montadas a partir de imágenes de la Tierra e IA. Google acaba de intentar convertir ese flujo de trabajo en un botón.

Así que la cuestión de la rendición de cuentas no es si Google actuó rápido. Es por qué la función existía siquiera, en este producto, con una marca de agua haciendo las veces de barrera de seguridad. Una vida útil de veinticuatro horas no es un triunfo de la capacidad de respuesta; es el recibo de un proceso de gobernanza que permitió que un daño previsible saliera a producción y contó con que internet lo detectara. La empresa dice que devolverá la función con controles más estrictos. La lectura más honesta es que Google gastó una fracción del activo más difícil de ganar de Google Earth — su credibilidad como prueba — para averiguar si podía salirse con la suya con el intercambio.

No pudo, esta vez. Pero el mapa ya ha demostrado que se puede pintar sobre él, y ese conocimiento no se deshace con la retirada de la función.

Etiquetas: Google, deepfakes, Google Earth, imágenes satelitales, Nano Banana