ChatGPT no garantiza que tus conversaciones sean privadas: así puede acceder OpenAI a ellas

Cientos de personas pueden revisar diariamente conversaciones mantenidas por usuarios con ChatGPT como parte de un programa interno de OpenAI destinado a mejorar las respuestas de su inteligencia artificial (IA).

Una investigación de 404 Media, basada en documentos filtrados y prompts reales, expuso detalles de un sistema de revisión humana identificado como Project Lily , mediante el cual contratistas analizan fragmentos de conversaciones que los usuarios mantienen con el chatbot.

El proceso implica que personas ajenas a OpenAI puedan acceder a conversaciones que, aunque son sometidas previamente a filtros de privacidad y no muestran directamente el nombre del usuario, pueden contener información médica, legal, financiera o de otro tipo que sea considerada sensible.

La existencia de revisores humanos no significa que cada conversación de ChatGPT sea leída de principio a fin.

Sin embargo, el sistema demuestra que lo que un usuario escribe en el chatbot no necesariamente queda exclusivamente entre él y la inteligencia artificial.

Cómo funciona el sistema de revisión de OpenAI De acuerdo con los documentos analizados por 404 Media, los contratistas que participan en Project Lily siguen una serie de instrucciones elaboradas por OpenAI para evaluar la calidad de las respuestas de ChatGPT.

El proceso comienza cuando el revisor recibe el prompt original escrito por un usuario .

A partir de ese texto, debe elaborar un resumen breve sobre lo que considera que la persona está solicitando al chatbot.

Después analiza la respuesta generada por ChatGPT y compara cuatro respuestas diferentes para ese mismo prompt.

El objetivo es determinar cuáles son más útiles y cuáles presentan problemas.

Los revisores deben identificar al menos tres fragmentos concretos de cada respuesta y explicar por qué consideran que funcionan correctamente o qué debería mejorarse .

Entre los ejemplos incluidos en las instrucciones aparece el uso excesivo de emojis, que puede ser considerado un problema cuando no corresponde al contexto de la conversación.

Finalmente, cada respuesta recibe una puntuación del 1 al 7.

La calificación más baja corresponde a una respuesta considerada inutilizable, mientras que la más alta representa una respuesta que apenas necesita mejoras.