Los agentes de IA se meten en una nueva polémica: las compras online

El uso de agentes de inteligencia artificial para las compras en línea podría aumentar el riesgo de estafas, fraudes y violaciones de la privacidad de los datos, según afirmaron el martes varios bancos, entre ellos NatWest y Bank of America, al establecer una serie de principios para el desarrollo de esta tecnología.

Empresas tecnológicas como OpenAI, Anthropic, Google y Meta promueven cada vez más los chatbots de IA como herramientas de compra , con la visión de un futuro en el que los compradores utilicen agentes de IA para seleccionar productos y realizar compras en su nombre .

Los minoristas, por su parte, compiten por influir en las recomendaciones de los chatbots.

O para bloquearlos, como hizo Amazon con Muse, el flamante agente de IA de Meta , hace unos días: le impide acceder al sitio de ventas online para hacer compras en nombre de sus usuarios.

La cadena británica John Lewis señaló en septiembre que las búsquedas procedentes de agentes de IA habían aumentado hasta el 2,5%, frente al 0,3% del año anterior, y que la tendencia se estaba acelerando.

El grupo de bancos, que también incluye a ING, el banco neozelandés ASB Bank y la entidad crediticia estadounidense Capital One, señaló en un informe que los clientes se mostraban entusiasmados con el potencial del comercio mediante agentes y deseosos de ponerlo en práctica.

Sin embargo, advirtieron que la tecnología avanza más rápido que las normas del sector y las medidas de protección de los consumidores.

“ Los consumidores no tienen claro si la IA actuará en su interés ”, señala el informe.

“Les preocupa que los agentes de IA puedan comprar algo inadecuado, gastar demasiado, o, lo que es peor, perder su dinero a causa de estafas y fraudes.

No están seguros de si estarán protegidos ni a quién deberán acudir si las cosas salen mal”.

El informe destacaba riesgos como que los agentes de IA soliciten los datos de las tarjetas de los clientes y los introduzcan directamente en páginas web , o que orienten a los usuarios hacia métodos de pago que ofrezcan una protección menor.

Los bancos tienen previsto debatir una serie de propuestas con los responsables políticos , entre las que se incluyen la obligación de informar cuando un agente de IA intervenga en una transacción, una mayor transparencia sobre cómo toman decisiones los agentes de IA y medidas de seguridad para proteger los datos de los clientes.

Los consumidores y los comerciantes también deberían tener libertad para elegir qué servicios de comercio electrónico basados en IA utilizan, mientras que los distintos sistemas deberían ser interoperables, según el informe.

Reuters