Reino Unido enviará "embajadores digitales" a Reddit para frenar los consejos erróneos de la IA sobre impuestos

La agencia tributaria del Reino Unido, HM Revenue and Customs (HMRC), diseñó un plan para enviar funcionarios a foros como Reddit y a redes sociales con el fin de corregir el asesoramiento fiscal erróneo que generan los chatbots de inteligencia artificial , informó la agencia Bloomberg .

James Baker, jefe de comunicación digital de HMRC , explicó a la agencia que “cuando las fuentes entran en conflicto, la confianza cae y el riesgo de errores costosos aumenta” .

Agregó que la intervención proactiva, con el contenido correcto en los lugares correctos, puede moldear cómo todo el ecosistema de información responde a la desinformación y la corrige con rapidez.

Los modelos de IA recogieron en varias ocasiones información errónea sobre impuestos , muchas veces tomada de redes sociales, y la entregaron a británicos que buscaban asesoramiento o la amplificaron en distintas plataformas.

Un caso detectado este año mostró el alcance del problema.

Un error de IVA que se multiplicó en cadena Buscadores y resúmenes generados por inteligencia artificial difundieron una fecha incorrecta sobre los plazos del impuesto al valor agregado (IVA) para empresas.

Una investigación de HMRC rastreó el origen hasta un sitio web cuyo contenido fue copiado por otras páginas, se difundió en redes sociales y luego fue recogido por los sistemas de IA.

Baker señaló que ese episodio “también demostró cuán fragmentado se volvió el recorrido de información del ciudadano” , que hoy se mueve con rapidez entre buscadores, herramientas de IA , aplicaciones y plataformas sociales.

Una información falsa de ese tipo podía llevar a contribuyentes a incumplir plazos reales y recibir multas.

Los funcionarios planean desplegar a lo que la agencia llama “embajadores digitales” : empleados que conversarán en foros en línea y redes sociales para señalar la información correcta.

Baker los describió como “un equivalente digital proactivo de los voceros que HMRC presenta en medios de difusión” y dijo que ayudarán a “señalar la información correcta y generar confianza” .

Un sistema para guiar a los chatbots HMRC también puso en marcha una estrategia llamada “ HMRC Verified ” , un sistema de alerta pensado para contrarrestar la desinformación en línea y orientar a los modelos de lenguaje hacia la guía oficial del organismo.

Según recogió Bloomberg , los grandes modelos de lenguaje ya respondieron a los cambios y comenzaron a destacar la información correcta .

El organismo evalúa además una herramienta asistida por inteligencia artificial que localizaría afirmaciones publicadas en línea , las contrastaría con su guía oficial y redactaría una respuesta para que un empleado la revise y apruebe antes de publicarla.