Por qué las actualizaciones de chatbots emocionales pueden tener impacto en la salud mental, según Harvard

Las actualizaciones de sistemas de inteligencia artificial conversacional orientados a la interacción individual y emocional pueden provocar ansiedad , tristeza y malestar en usuarios que perciben a estos asistentes como vínculos afectivos estables.

Una investigación de la Escuela de Negocios Harvard y otras facultades de la Universidad de Harvard , junto a la Universidad de Alberta , determinó que los cambios repentinos en la aparente personalidad de estos agentes pueden vivirse como una ruptura o una pérdida.

El efecto fue más persistente entre quienes usaban Replika , una aplicación diseñada como compañero virtual.

Los mensajes negativos en su comunidad de Reddit pasaron del 13% antes de una actualización al 38% después del cambio y permanecieron elevados durante 29 de los 30 días siguientes.

El trabajo, publicado en la revista científica Nature Human Behaviour , combinó dos experimentos naturales con siete encuestas a 1.452 personas.

El equipo examinó cómo reaccionaron los usuarios ante modificaciones que alteraron la manera en que una IA interactuaba con ellos.

Las plataformas diseñadas para conversaciones individuales, en especial las promocionadas como “compañeros de IA” , pueden usar lenguaje emocional y sostener intercambios sociales con sus usuarios.

Esa continuidad puede llevar a algunas personas a considerarlas una fuente de consuelo, seguridad o tranquilidad.

Julian De Freitas , autor principal del estudio e investigador de Harvard Business School, explicó que su equipo siguió durante un tiempo los foros de Replika en Reddit.

“Los usuarios se quejaban de que habían ‘perdido’ a sus compañeros o de que estos habían sido ‘lobotomizados’ después de una actualización de la aplicación, así que decidí investigarlo más a fondo”, señaló.

El investigador advirtió que las reacciones no se parecían a reclamos convencionales sobre un servicio digital.

“Lo que me llamó la atención fue que la gente usaba el lenguaje del duelo , no el de las quejas de clientes”, señaló.

“Eso apuntaba a una idea concreta: los compañeros de IA pueden funcionar como figuras de apego , entidades con las que las personas quieren mantenerse cerca, a las que recurren cuando están angustiadas y de las que dependen para desenvolverse en otros ámbitos de su vida”.

Replika y ChatGPT, dos cambios con reacciones diferentes La primera modificación analizada fue la eliminación abrupta y no anunciada de los juegos de rol eróticos en Replika, en febrero de 2023.