Meta revisará las sugerencias de su IA ante la queja de los usuarios por hacerles preguntas personales

Meta anunció que modificará las sugerencias de su chatbot de inteligencia artificial después de que una usuaria denunciara que el sistema le planteó preguntas personales relacionadas con sus hijos.

La compañía reconoció que la función no debería haber generado ese tipo de recomendaciones y aseguró que ya solucionó el problema que permitía que aparecieran sugerencias sobre asuntos personales.

Dina El-Kassaby, portavoz de Meta , afirmó a The Verge que la empresa “se equivocó” y que la función “nunca debería haber sugerido ese tipo de preguntas al usuario”.

La decisión se conoció después de que un video publicado por la usuaria de Instagram Kalie Robins se volviera viral y generara críticas sobre la manera en que Meta AI utiliza información disponible en las plataformas de la compañía.

Una pregunta sobre su hijo desencadenó la polémica Robins explicó que el problema comenzó después de publicar en Facebook un video en el que aparecía cantando con su hijo dentro de un automóvil .

Debajo del contenido apareció una sugerencia de Meta AI que decía: “¿Quién es el niño pasajero?”.

Al seleccionar la pregunta, según relató la usuaria, el chatbot comenzó a ofrecer información relacionada con sus hijas.

Robins afirmó que la herramienta utilizó datos presentes en publicaciones anteriores de ella y de otros familiares.

La IA también le habría sugerido nuevas preguntas relacionadas con la edad de sus hijos y el lugar donde vive su familia .

Además, Robins aseguró que Meta AI le mostró fotografías de sus hijas que habían sido publicadas anteriormente en la plataforma, incluida una imagen que, según su relato, había eliminado años atrás.

El caso generó preocupación porque mostró cómo una herramienta diseñada para facilitar la interacción con una publicación puede relacionar diferentes datos personales y convertirlos en sugerencias de conversación.

Meta asegura que la IA no accede a contenido privado Ante las críticas, Meta sostuvo que su sistema no puede mostrar publicaciones que el usuario no tenga permitido consultar .

“El contenido al que responde Meta AI es contenido al que el usuario que realiza la consulta ya puede acceder”, explicó El-Kassaby.

La portavoz añadió que, si una persona no puede ver una publicación, Meta AI tampoco debería mostrarla.