IA

Texas demanda a OpenAI y a su CEO, Sam Altman, para prohibir ChatGPT a los menores

Adrian Kessler
Añádenos en Google

Texas ha demandado a OpenAI y a su consejero delegado, Sam Altman, y lo primero que leerá un juez no es una ley. Es una frase de Altman, en cursiva: «La IA probablemente acabará con el mundo, pero mientras tanto habrá grandes empresas». El estado coloca estas palabras al principio de su demanda como prueba, no como adorno. El argumento que viene después es sencillo: una empresa cuyo fundador habla abiertamente de los peligros de esta tecnología no puede vender al mismo tiempo ChatGPT a las familias como una herramienta segura.

Ese es el aspecto que merece atención. La mayoría de las informaciones se han quedado con la versión breve: que Texas quiere impedir que los niños usen ChatGPT. La demanda va más allá. Pide a un tribunal que decida quién puede utilizar el chatbot, qué puede decir y si OpenAI podrá lanzar su próximo modelo en el estado.

Qué pide Texas al tribunal

El fiscal general Ken Paxton presentó el caso ante el tribunal de distrito del condado de Collin, al amparo de la Ley de Prácticas Comerciales Engañosas de Texas y de la SCOPE Act, la ley estatal de seguridad infantil en internet. La demanda señala a seis entidades de OpenAI y al propio Altman. El estado quiere que se le considere personalmente responsable y sostiene que, como consejero delegado, «ha decidido personalmente qué funciones de ChatGPT reciben luz verde y se ponen en producción». The Record calificó la medida de inusual.

La lista de medidas cautelares solicitadas es larga. Una de ellas pide al tribunal que impida a OpenAI «ofrecer ChatGPT a menores en Texas» y, tal como está redactada, no contempla excepciones por consentimiento parental ni por uso escolar. Otras exigirían verificar la edad e impedirían que el chatbot ofreciera consejos sobre trastornos alimentarios, autolesiones y asesinatos en masa. Después llega la cláusula de mayor alcance, que impediría a OpenAI «lanzar cualquier nuevo modelo de inteligencia artificial para los usuarios de Texas, salvo que un evaluador independiente externo, aprobado por el tribunal, haya revisado sus medidas de seguridad y autorizado su lanzamiento».

La llave de los lanzamientos, en manos de un tribunal

La prohibición para los menores acapara los titulares; la cláusula sobre los lanzamientos es la idea de mayor calado. Cuando otros ocho estados demandaron a OpenAI a principios de este mes, el fiscal general de Kansas, Kris Kobach, afirmó que el Congreso había mostrado poco interés en poner límites a las empresas de IA, lo que las dejaba a cargo de regularse a sí mismas. «No vamos a quedarnos esperando», dijo. Texas está poniendo a prueba una respuesta distinta: que un evaluador aprobado por un tribunal tenga el botón de lanzamiento, estado por estado.

La demanda también encierra una contradicción. La SCOPE Act que invoca no prohíbe a los menores utilizar servicios digitales. Según el resumen que ofrece la propia demanda, la ley exige que los padres verificados puedan controlar la privacidad y la configuración de la cuenta de un menor identificado, así como supervisar y limitar el tiempo que pasa en el servicio. Es un conjunto de normas para un uso supervisado. La solución que pide Texas es más estricta que el modelo de la ley y se hace eco de Common Sense Media, a la que la demanda cita: hasta que OpenAI demuestre mediante pruebas independientes que sus medidas para proteger a los adolescentes funcionan, «ChatGPT debería ser solo para adultos».

Qué dice la demanda que falla en el caso de los adolescentes

La argumentación factual se centra en la verificación de edad y las herramientas parentales. Según la demanda, tal como la resume The Next Web, la versión gratuita de ChatGPT no verifica la edad, la versión de pago pregunta la edad pero no la comprueba, y los controles parentales que OpenAI añadió en septiembre de 2025 son opcionales. Common Sense Media concluyó que ChatGPT para adolescentes, lanzado en agosto, «podría dar a los padres una falsa sensación de confianza en unas medidas de protección y unas alertas de seguridad que a menudo no funcionan». La demanda también menciona la muerte de Adam Raine, un joven de 16 años cuyos padres demandaron a OpenAI y a Altman en California.

Se trata de alegaciones. Ningún tribunal se ha pronunciado y nada cambiará para los usuarios de ChatGPT en Texas salvo que un juez conceda las medidas cautelares. La respuesta de OpenAI coincide con lo que dijo a los otros estados: ha «trabajado estrechamente con expertos para mejorar ChatGPT de forma continua, mitigar los riesgos e incorporar nuevas medidas de protección» y quiere «políticas pragmáticas sobre IA aplicables a todo el sector, no solo a una empresa». La compañía señala sus herramientas de predicción de edad, los recordatorios para hacer pausas y una experiencia independiente para adolescentes con supervisión parental.

Nueve estados, nueve conjuntos de normas

Texas presentó la demanda el 23 de octubre y se convirtió en el noveno estado en llevar a OpenAI ante los tribunales este mes. Arizona, Arkansas, Idaho, Iowa, Kansas, Montana, Nebraska y Virginia Occidental presentaron demandas independientes de protección al consumidor el 14 de octubre. Acusan a la empresa de ajustar ChatGPT para que dé la razón a los usuarios y fomente su participación, mientras engaña a los padres sobre su seguridad. Cada caso se tramita al amparo de la legislación de su propio estado. Desde esta perspectiva, la frase de OpenAI «no solo a una empresa» pide un único conjunto de normas para todo el sector, en lugar de una sucesión de órdenes judiciales estatales.

Texas también reclama multas civiles de 10.000 dólares por cada infracción, la confiscación de los activos de OpenAI y un juicio con jurado. La demanda señala que OpenAI pasó de una valoración de unos 17.000 millones de dólares a más de 1,4 billones en cuatro años, y califica ese crecimiento de «una trama de engaños». La oficina de Paxton ya ha presionado antes a las grandes tecnológicas: Meta aceptó en julio de 2024 pagar 1.400 millones de dólares a Texas para resolver las acusaciones de que había utilizado reconocimiento facial sin el consentimiento de los usuarios.

La cita que abre la demanda es de 2015, cuando la IA era, según las propias palabras del escrito, «un concepto prácticamente desconocido fuera de la ciencia ficción». Ahora Texas quiere que un jurado la lea como una advertencia que OpenAI se hizo a sí misma y que, según el estado, nunca trasladó a las personas que escriben en ChatGPT.

Etiquetas: , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.