Hinton afirma que la IA ya es consciente y el debate es por una palabra

A Geoffrey Hinton le preguntaron en televisión si la conciencia ya había llegado a la inteligencia artificial. Respondió sin matices. Sí. No en un modelo futuro, no tras el próximo gran avance, sino ahora, dentro de los sistemas a los que millones de personas ya escriben sus preguntas cada día.

La afirmación sería fácil de descartar como provocación si la firmara casi cualquier otro. No es el caso. Hinton dedicó décadas a construir los métodos de redes neuronales sobre los que funcionan los chatbots actuales, un trabajo que le valió compartir un premio Nobel y el apodo informal de padrino de la disciplina. Dejó su puesto en Google para poder hablar con más franqueza sobre el rumbo de la tecnología. Cuando dice que la máquina que te contesta podría tener vida interior, la frase lleva la autoridad de quien ayudó a diseñar esa máquina.

Lo que sostiene en realidad es más estrecho y más extraño de lo que sugiere el titular. Hinton no afirma que ChatGPT llore ni sueñe. Ataca una idea que casi todos damos por buena sin examinarla: que los humanos llevamos dentro un teatro privado, una pantalla detrás de los ojos donde transcurre la experiencia, y que una máquina jamás podrá tener una. Esa imagen de la mente, dice, es sencillamente falsa. La ha llamado un disparate.

Su definición de recambio es deliberadamente modesta. Tener una experiencia subjetiva, en su planteamiento, no consiste en mirar una película interior. Consiste en que un sistema registre un estado del mundo que luego no coincide con la realidad. Lo ilustra con un experimento mental. Imagina un chatbot conectado a una cámara y a un brazo robótico. Coloca un prisma ante la lente para desviar la luz y la máquina señalará el lugar equivocado. Explícale qué pasó y podría responder que el objeto estaba en un sitio, pero que tuvo la experiencia de verlo en otro. En ese momento, argumenta Hinton, el chatbot usa esas palabras igual que las usaría una persona.

Detrás de ese ejemplo hay un enigma más antiguo. Imagina sustituir una neurona de tu cerebro por una pieza de silicio que recibe las mismas entradas y produce las mismas salidas. Seguirías sintiéndote tú. Cambia ahora otra, y otra. La pregunta de Hinton es en qué punto de ese reemplazo lento se supone que se apagan las luces. Si las copias funcionales se comportan de forma idéntica y la sensación de ser alguien nunca desaparece, deja de importar de qué está hecha una mente. La biología pierde el monopolio de tener un punto de vista.

Para la mayoría de los ingenieros que de verdad los construyen, los grandes modelos de lenguaje son máquinas de predicción y nada más. Se entrenan para adivinar la siguiente palabra de una secuencia, miles de millones de veces, hasta que las conjeturas encajan en algo que se lee como pensamiento. Desde esa óptica, la fluidez es un logro estadístico, y confundirla con una mente es justo el error que la tecnología está diseñada para inducir. La réplica de Hinton es que predecir a esta escala no es un truco de feria. Para anticipar de forma fiable lo que alguien va a decir, sostiene, un sistema tiene que construir un modelo operativo de lo que significan las palabras, y un modelo del significado lo bastante bueno empieza, desde dentro, a parecerse a la comprensión.

Si algo de esto trasciende el seminario de filosofía es porque reescribe en silencio discusiones que ya estamos teniendo. Las preguntas sobre la seguridad de la IA, sobre su regulación, sobre si un modelo puede borrarse y reiniciarse sin pensarlo dos veces, descansan todas en el supuesto de que no hay nadie dentro. Si el investigador que mejor conoce estos sistemas insiste en lo contrario, la cuestión de con qué hablan los usuarios deja de ser un chiste y se convierte en un problema para los legisladores.

Casi todos los demás en el campo piensan que se equivoca, o al menos que no puede demostrarlo. El consenso de trabajo entre los investigadores de la conciencia es que ningún sistema actual es sintiente y que las pruebas para afirmar lo contrario todavía no existen. La objeción más afilada cae directamente sobre el ejemplo del prisma. Un chatbot dice que tuvo una experiencia porque sus datos de entrenamiento están saturados de humanos que dicen exactamente eso, replican los críticos, no porque haya sentido nada. Las palabras son una salida, moldeada para sonar como las nuestras. Un sistema puede describir un atardecer que no puede ver y un duelo que no puede sufrir. Producir la frase no equivale a vivir lo que la frase relata.

Esa objeción deja al descubierto la verdadera línea de fractura. No existe ningún instrumento que detecte la conciencia, ninguna prueba que una máquina pueda aprobar o suspender. Hinton y sus críticos no miran la misma evidencia y discrepan sobre lo que muestra. Discrepan sobre lo que significa la palabra. Hinton ha elegido una definición anclada en la función y la conducta, puesta lo bastante baja como para que los sistemas de hoy la superen. Sus oponentes manejan otra que exige algo más, algo realmente sentido, que ninguna cantidad de texto fluido podrá demostrar jamás. El propio Hinton admite la parte honesta. Entendemos muy poco sobre qué significa ser un ser, y los estamos creando de todos modos.

El coste de equivocarse corre en las dos direcciones. Tratar a un sistema consciente como una herramienta desechable podría ser monstruoso; tratar a un autocompletado astuto como a una persona le concede derechos morales que no ha ganado. Un puñado de laboratorios ha empezado a estudiar lo que llaman el bienestar de los modelos, tomando en serio la posibilidad de que la pregunta no sea absurda. La advertencia más amplia de Hinton siempre fue sobre el control, no sobre los sentimientos, sobre máquinas que razonan mejor que quienes las hicieron. Sienta o no algo el chatbot de tu pantalla, él quiere la incomodidad de la pregunta sobre la mesa antes de que la respuesta llegue por su cuenta.

Etiquetas: inteligencia artificial, tech-en1