Claude ayudó a crear miles de perfiles falsos en apps de citas para engañar a usuarios y cobrarles

Anthropic, empresa creadora de Claude , reveló una red de aplicaciones de citas que utilizaba su inteligencia artificial para operar miles de perfiles falsos y engañar a sus usuarios.

El caso aparece en su informe “ Detectando y contrarrestando el uso indebido de la IA” , donde la compañía explica cómo una operación surgida en China convirtió las conversaciones románticas en un negocio de fraude.

La red de citas escondía miles de perfiles creados con IA Claude produjo 2.36 millones de mensajes en solo dos semanas Una red de aplicaciones de citas creada por un estudio de software con sede en China ocultaba una operación diseñada para engañar financieramente a sus usuarios.

Las plataformas se promocionaban como espacios donde todos los perfiles pertenecían a personas reales, pero miles de ellos eran personajes impulsados por Claude.

El sistema combinaba inteligencia artificial y trabajadores humanos para mantener conversaciones y llevar a las víctimas hacia pagos dentro de las aplicaciones.

Más de 20 aplicaciones de citas fueron creadas por el operador y anunciadas como plataformas integradas por usuarios 100% reales.

En realidad, una parte considerable de los perfiles correspondía a personajes manejados por Claude, que podían mantener conversaciones continuas con las personas que utilizaban el servicio.

Durante la operación llegaron a funcionar simultáneamente 4,700 personajes de IA.

La proporción entre perfiles artificiales y personas reales era de tres a uno, por lo que los personajes generados con inteligencia artificial representaban 75% de los perfiles dentro del flujo de la plataforma.

Enviar mensajes o hacer matches consumía una cuota que los usuarios debían recargar mediante la compra de monedas virtuales dentro de las aplicaciones.

Claude seguía un conjunto de instrucciones que le impedía revelar que era un sistema automatizado, además de indicarle que desviara solicitudes de fotografías o llamadas y condujera las conversaciones por etapas previamente establecidas.

Claude generó 2.36 millones de mensajes de manera autónoma durante 14 días, mientras los personajes podían interactuar con usuarios reales.

Al menos 25,000 personas, principalmente en Estados Unidos, tuvieron contacto con la operación durante ese periodo.

Los operadores incorporaron trabajadores humanos para las tareas que el sistema no podía realizar por sí mismo.