IA

Microsoft calificó el scraping de IA como «el mayor robo de trabajo de la historia» en sus propios archivos

Adrian Kessler
Añádenos en Google

Un científico de Microsoft puso nombre a lo que la empresa estaba construyendo, y el nombre no era halagüeño. Al revisar cómo los grandes modelos de lenguaje aprenden de la web abierta, lo calificó como “el mayor robo de mano de obra de la historia de la humanidad”. La frase fue escrita para ojos internos. Ahora es una prueba en los tribunales.

La frase llega como un golpe de efecto: el propio empleado del gigante de la IA llama robo al modelo de negocio. Esa lectura se queda corta. Lo que realmente muestran los documentos desclasificados es una empresa que entendía el mecanismo que estaba monetizando, describió ese mecanismo en un lenguaje claro y, aun así, lanzó el producto. Lo interesante no es el insulto, sino el diagrama que hay debajo.

El documento pertenece a Brent Hecht, director de ciencia aplicada de Microsoft, y ha salido a la luz en el caso de derechos de autor que The New York Times interpuso contra OpenAI y Microsoft. Hecht argumentó que entrenar modelos con obras publicadas sin compensación equivalía a “un robo asombroso de proporciones sin precedentes”. Otra presentación interna profundizaba en el mecanismo: advertía de que la estrategia de contenido de IA de Microsoft había iniciado un “bucle de perdición” que “dañaría el rendimiento de nuestros modelos y de toda la web al mismo tiempo”. Los grandes modelos de lenguaje, se lee en una línea, son “un producto que destruye su propia cadena de suministro”.

Esa última frase es toda la historia en siete palabras. Un chatbot que responde a una pregunta dentro del cuadro de búsqueda elimina la razón para hacer clic en la página de la que aprendió. Menos clics significan menos ingresos para los sitios que producen los textos, lo que significa que sobreviven menos, y por tanto hay menos texto humano fresco para que el próximo modelo se entrene. Microsoft no teorizó este bucle desde fuera. Sus propios datos lo midieron: el motor de respuestas de Copilot redujo las tasas de clics hacia el sitio del Times hasta en un 93 por ciento en comparación con la búsqueda normal.

Los documentos también cuantifican el lado de la entrada del intercambio. Los datos de entrenamiento intermedio de OpenAI contenían más de 91.000 copias de obras del Times, el Daily News y el Center for Investigative Reporting. Un conjunto de datos extraído de Common Crawl incluía más de dos millones de documentos de nytimes.com. Una colección denominada Proyecto Mango contenía al menos 160.000 obras únicas de editores de noticias. Los documentos describen cómo se saltaron los muros de pago y se eliminaron los avisos de derechos de autor del texto antes de introducirlo.

Los propios ejecutivos de OpenAI no eran ajenos al efecto. Nick Turley, que dirige ChatGPT, aparece citado describiendo los productos como “en gran medida sustitutivos” del periodismo y calificando el cambio como una “amenaza existencial” para los editores. Es la misma conclusión a la que llegó Hecht, presentada bajo un cargo distinto.

He aquí por qué el lenguaje importa más allá de la vergüenza. Microsoft se ha distanciado de los comentarios, diciendo al tribunal que su postura real cumple con la ley de derechos de autor, y ninguna de las dos empresas quiso comentar la filtración. Pero una defensa de uso justo depende en parte de lo que una empresa sabía y pretendía. Los documentos en los que sus propios científicos nombran el daño —robo, cadena de suministro destruida, web vaciada— no son opiniones que la empresa pueda simplemente repudiar. Se leen como evidencia de que el mecanismo se entendía antes de escalarse.

La web de la que aprendieron estos modelos fue construida por personas que asumían que había un lector al otro lado. Los archivos de Microsoft muestran que sabía, por escrito, que se estaba eliminando al lector de la ecuación, y siguió construyendo.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.