IA

Las nuevas condiciones de Wells Fargo cargan al cliente los errores de su agente de IA

Susan Hill
Añádenos en Google

Wells Fargo está reescribiendo el contrato que regula su aplicación y su web para que todo lo que haga un agente de IA externo en la cuenta de un cliente se considere un acto del propio cliente. El banco afirma que seguirá las instrucciones del agente sin comprobarlas, que no vigilará lo que haga y que tratará los errores del agente como errores del cliente. «Su uso de cualquier agente de IA corre POR SU PROPIA CUENTA Y RIESGO», dicen las nuevas condiciones, en mayúsculas.

Para quien haya entregado la contraseña de su banco a un bot de compras o a un asistente de presupuestos, esto cambia quién paga cuando el programa se equivoca. Un pago duplicado, un pedido realizado diez veces o una transferencia desencadenada por una página web trampa recaerían sobre el titular de la cuenta y no sobre el banco, salvo que una ley disponga lo contrario. Nadie tiene que firmar nada: se considera que aceptan el cambio los clientes que sigan usando la banca online después de que entre en vigor. «Los consumidores autorizan objetivos, no cada clic», explicó a Wired Kacy Kim, profesora de marketing de la Universidad Bryant que estudia el comportamiento del consumidor.

La definición es amplia. Wells Fargo llama «agente de IA» a cualquier software que realice «acciones autónomas, semiautónomas o no autónomas» en nombre de alguien, lo que alcanza mucho más allá de los chatbots que se venden como asistentes personales. El cliente asume el coste de que un agente interprete mal las instrucciones, haga cosas que nadie le pidió, actúe a partir de «entradas manipuladas» o se exceda de la autoridad que se le concedió. Los agentes gestionados por personas a las que el cliente permite acceder a la cuenta quedan sujetos a las mismas reglas, y los menores de 18 años no pueden conectar ninguno.

Desactivar un agente también es tarea del cliente. Las condiciones establecen que los clientes deben revocar el acceso por sí mismos, conservar pruebas de que lo han hecho y entregarlas si el banco se las pide. Hasta que se lo comuniquen a Wells Fargo, seguirán siendo responsables de lo que haga el agente. Es la misma lógica de la norma estadounidense sobre transferencias electrónicas, la Regulation E, que considera autorizadas las transferencias hechas por alguien a quien se ha dado la tarjeta o las credenciales hasta que el cliente pide al banco que las detenga.

Wells Fargo sigue dejando entrar a los agentes, lo que lo sitúa en el extremo permisivo de un sector que está cerrando la puerta. JPMorgan Chase ha modificado sus condiciones para prohibir los agentes de terceros que inician sesión con las credenciales del cliente, Bank of America ha advertido a sus clientes de que no compartan sus claves con agentes, y Citibank y PNC han añadido sus propias advertencias, según Wired. Morgan Stanley ha bloqueado el acceso de agentes de terceros a sus plataformas, informó Axios. Wells Fargo se ha reservado el derecho de cortar las conexiones que utilizan los agentes o de bloquear directamente a cualquier agente.

El rechazo va más allá de la banca. Amazon ha impedido que el agente Muse de Meta realice compras en su tienda, y United Airlines ha dicho que los bots personales no podrán comprar vuelos para los viajeros. American Express es la rara excepción en el relato de Wired: ha afirmado que algunos errores de los agentes, como pedir demasiadas unidades de un artículo, podrían optar a un reembolso en el futuro si el comprador no logra recuperar el dinero del comercio.

No está claro cuánto cambia en la práctica la nueva redacción. Sus cláusulas remiten una y otra vez a «la ley o la normativa», y ningún tribunal ha dictaminado todavía quién asume la pérdida cuando un agente que el cliente ha activado hace algo que este nunca pretendió. El público, además, es reducido. «Todos nuestros datos indican que la mayoría de la gente ni siquiera sabe qué son los agentes, y mucho menos los usa», dijo a Wired Sucharita Kodali, analista de Forrester. Y los bancos no están en contra de los agentes como tales. «Están cerrando la puerta a los agentes externos y construyendo los suyos», afirmó Luca Cian, profesor de la Universidad de Virginia que estudia psicología del consumidor e IA. El asistente de IA generativa de Wells Fargo ha gestionado más de mil millones de interacciones.

Las nuevas condiciones solo afectan a los clientes de la banca online y móvil de Wells Fargo en Estados Unidos, y todos los bancos mencionados hasta ahora son estadounidenses. En la Unión Europea, las normas de pago ya empujan a las aplicaciones que consultan o mueven dinero hacia conexiones autorizadas facilitadas por el banco, en lugar de una contraseña compartida, lo que deja menos margen a los agentes que inician sesión haciéndose pasar por el cliente.

El contrato actualizado de Wells Fargo entra en vigor el martes 24 de noviembre y se aplica a todo el que siga usando la web o la aplicación del banco después de ese día. La prohibición de JPMorgan a los agentes basados en credenciales llegó a finales de octubre, el mismo día en que Bank of America envió su advertencia. Wells Fargo también se ha reservado la opción de obligar a los clientes a registrar sus agentes en el banco, lo que le daría una lista de los bots que, según dice, no vigila.

Etiquetas: , , , , ,

Añádenos en Google

Debate

Hay 0 comentarios.