Demis Hassabis, sobre quién paga la seguridad de la IA: «La financiación tendría que ser sustancial y venir en su mayoría de la industria»

Demis Hassabis ha pasado el año argumentando que los sistemas de inteligencia artificial más potentes deberían ser examinados antes de llegar al público, por un organismo independiente inspirado en el organismo de control que vigila a los brókeres de Wall Street. La cuestión más difícil no es si ese árbitro debe existir. Es quién lo paga —y en una sola frase, el director de Google DeepMind también respondió a eso.

«La financiación tendría que ser sustancial y proceder principalmente de la industria, para atraer talento técnico de primer nivel y proporcionar los recursos informáticos necesarios para las pruebas a gran escala».

Hassabis escribió esa línea en el ensayo marco que presenta su propuesta, citado por Malay Mail. Leída rápido, suena a responsabilidad: las barreras de seguridad cuestan dinero, y las empresas que construyen la tecnología deberían pagar la factura en lugar de dejar que el público financie la limpieza. Leída como mecanismo, es la línea que sostiene todo el plan —la que decide a qué intereses acabará protegiendo el árbitro.

La tensión reside en la frase. Hassabis quiere que el organismo sea independiente. También quiere que lo financie, «principalmente», la misma industria a la que juzgaría. Esos dos objetivos tiran en direcciones opuestas, y la historia del modelo que eligió muestra cuál suele ganar. La Financial Industry Regulatory Authority, su modelo, la pagan los brókeres que supervisa. La senadora Elizabeth Warren lleva años argumentando que la FINRA actúa «más en interés de las firmas de corretaje que pagan sus facturas que de los inversores particulares a los que se supone que debe proteger».

La objeción no es marginal. Nader Henein, analista vicepresidente de Gartner, califica la autorregulación simplemente de «inviable», porque la mayoría de los proveedores carecen de capacidad para ello y el acuerdo «necesariamente» genera conflictos de intereses. El analista independiente Carmi Levy fue más lejos, describiendo el plan como «una hoja de ruta interesada para una industria empeñada en acelerar» sin importar el daño. Incluso voces favorables quieren un cortafuegos: Yoshua Bengio dice que comprende el pragmatismo, pero insiste en «una hoja de ruta clara y precisa para pasar de un modelo voluntario a uno obligatorio».

Nada de esto convierte a Hassabis en un actor de mala fe. Dirige el laboratorio que está detrás de AlphaFold, el sistema que predijo las formas de las proteínas y reconfiguró el modo en que se hace biología —un historial que da peso real a sus advertencias sobre las capacidades frontera. Eso es precisamente lo que hace que la frase merezca la pena detenerse en ella. La voz técnica más creíble de la sala es también la que propone al árbitro, redacta sus reglas y organiza su presupuesto a partir de las mismas empresas que se sentarían al examen. Presentación voluntaria, plazo breve de revisión antes del lanzamiento, dinero de la industria: cada concesión es razonable por separado, y juntas describen un organismo con el que los laboratorios podrían convivir cómodamente.

Un régimen de seguridad es tan independiente como su presupuesto. La frase que decidirá si este protege al público o a los laboratorios no es la que habla de probar modelos frontera. Es la que habla en voz baja de quién firma los cheques.

Etiquetas: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI