OpenAI presenta 'ChatGPT para adolescentes' ante la creciente preocupación por la seguridad

OpenAI anunció el martes "ChatGPT para adolescentes", un nuevo modo en el que el chatbot limita automáticamente algunas conversaciones para proteger mejor a los usuarios jóvenes , a medida que aumenta el escrutinio sobre los efectos nocivos de la inteligencia artificial.

Muchas características del nuevo modo tienen que ver con la seguridad, dijo la empresa en una publicación de blog.

El chatbot limitará las conversaciones de alto riesgo que involucren autolesiones, violencia, trastornos alimenticios y contenido sexual explícito y gráfico.

En algunos casos, ChatGPT alertará a los adultos que hayan activado los controles parentales y las notificaciones .

Además, el modo fortalecerá las protecciones que evitan que el chatbot sugiera que tiene sentimientos personales.

El modo para adolescentes de ChatGPT también contiene nuevas herramientas de estudio y límites de seguridad para los estudiantes, dijo OpenAI.

Si el chatbot detecta que un adolescente está haciendo la tarea, debería responder a las indicaciones con más preguntas en lugar de limitarse a dar la respuesta , por ejemplo.

OpenAI requiere que las personas proporcionen su edad al registrarse en ChatGPT --según los términos de uso, deben tener 13 años o más--, pero algunos mienten.

La empresa rastrea más de 2000 señales para detectar si un usuario es menor de 18 años, indicó, en cuyo caso el chatbot activará automáticamente el modo para adolescentes.

Un portavoz de la empresa dijo que las señales, que pueden incluir horarios típicos de inicio de sesión y la antigüedad de la cuenta, eran "mínimamente invasivas para la privacidad".

OpenAI, que requiere el consentimiento de los padres para que los adolescentes usen su chatbot, ha enfrentado una creciente presión sobre la seguridad, la salud mental y el desarrollo de sus usuarios más jóvenes.

Un número cada vez mayor de familias ha demandado a la empresa, alegando que sus hijos estuvieron expuestos a contenido peligroso del chatbot y se autolesionaron o murieron por suicidio como resultado.

En junio, Florida se convirtió en el primer estado en demandar a OpenAI , acusando a la empresa de tergiversar la seguridad de su plataforma para los menores de edad.

Grupos de padres en la ciudad de Nueva York, Los Ángeles y otros lugares están presionando a las escuelas para que detengan temporalmente las implementaciones de productos de IA para los estudiantes, preocupados de que los chatbots puedan obstaculizar o disminuir el aprendizaje.