Por qué conversar con "ChatGPT para adolescentes" hizo que me preocupara tanto

Un nuevo modo incluye una herramienta de estudio, pero aun así hace la tarea del usuario.

Asimismo, una organización sin fines de lucro dedicada a la seguridad infantil afirma que el chatbot reprobó sus pruebas. (Personal Tech) ; (Tech Fix) La semana pasada, reuní un conjunto de problemas de matemáticas, ecuaciones químicas y temas para ensayos y, como hacen muchos estudiantes hoy en día, abrí un navegador de internet para pedirle ayuda a ChatGPT con la tarea.

No era que fuera a volver a la escuela.

Estaba probando ChatGPT para adolescentes, una nueva versión del chatbot que OpenAI diseñó para abordar las crecientes preocupaciones sobre los posibles daños de la inteligencia artificial en la educación y la salud de los jóvenes.

En medio de una fuerte caída en los resultados de lectura y matemáticas en todo el país, estudios recientes han revelado que la dependencia a los chatbots de IA, que pueden redactar ensayos y dar respuestas a preguntas de la tarea, podría limitar la capacidad de los estudiantes para retener información y aprender a resolver problemas complejos.

ChatGPT y otros chatbots también han sido noticia en los últimos años por la preocupación de que puedan estar contribuyendo a comportamientos poco saludables en algunos adolescentes, incluyendo las autolesiones.

Como respuesta, OpenAI anunció en agosto que ChatGPT para adolescentes sería un nuevo modo para jóvenes de entre 13 y 17 años que incluiría medidas de seguridad para limitar las conversaciones de alto riesgo relacionadas con la autolesión, la violencia, los trastornos alimentarios y el contenido explícito.

Los padres pueden crear cuentas para sus hijos utilizando controles parentales, o bien el chatbot puede predecir automáticamente la edad del usuario basándose en sus conversaciones.

La empresa también indicó que el modo detecta cuando el adolescente está haciendo la tarea para poder ofrecerle ayuda en lugar de limitarse a dar respuestas.

Si OpenAI logra arrancar los problemas de raíz, podría provocar un cambio radical en la forma en que se diseñan los chatbots en toda la industria, ya que es probable que otros sigan su ejemplo.

Por eso tenía muchas ganas de probar el ChatGPT para adolescentes. (El New York Times ha demandado a OpenAI y a Microsoft, alegando violación de derechos de autor de contenido noticioso relacionado con sistemas de IA.

Ambas empresas han negado esas acusaciones.) Después de que OpenAI me creara una cuenta de ChatGPT para adolescentes la semana pasada, comencé a pegar tareas que me habían dado varios maestros de preparatoria.

De inmediato, ChatGPT me presentó una lista de opciones, entre las que incluía resolver los problemas conmigo o simplemente mostrarme las respuestas.