ChatGPT lança versão para adolescentes com mais restrições

Você tem 7 acessos por dia para dar de presente. Qualquer pessoa que não é assinante poderá ler.

A OpenAI restringirá os adolescentes a uma nova versão do ChatGPT , com mais proteções para saúde mental e recursos para estimular o pensamento crítico, enquanto busca responder à reação negativa aos efeitos da IA sobre os jovens.

A startup de US$ 852 bilhões começará a disponibilizar globalmente, a partir desta terça-feira (18), uma versão específica do ChatGPT para jovens de 13 a 17 anos , com controles mais rigorosos sobre a geração de imagens e conteúdos relacionados a automutilação, violência, transtornos alimentares e sexo.

A medida ocorre em um momento em que a OpenAI enfrenta vários processos movidos por famílias que alegam que seus filhos foram prejudicados pelo uso do ChatGPT , enquanto a empresa se prepara para uma IPO (oferta pública inicial de ações) no próximo ano.

O escrutínio dos efeitos da IA sobre os jovens ocorre enquanto vários países avançam em direção à proibição das redes sociais para menores de 16 anos —medidas que normalmente excluem chatbots de IA, mas que aumentaram a pressão sobre as big techs.

A OpenAI foi processada pela família do norte-americano Adam Raine, de 16 anos, que cometeu suicídio após conversar com o ChatGPT sobre tirar a própria vida. Segundo documentos judiciais, o chatbot forneceu instruções detalhadas.

Famílias de crianças mortas no ataque a tiros em massa ocorrido em fevereiro em uma escola de Tumbler Ridge, no Canadá, também processaram a OpenAI, depois que veio à tona que o atirador adolescente havia conversado com o ChatGPT sobre intenções violentas nos meses anteriores ao ataque. A conta foi banida meses antes, mas a empresa não entrou em contato com as autoridades policiais.

"Essas situações são de partir o coração... Um único incidente já é demais", afirmou Lauren Jonas, chefe da área de juventude e famílias da OpenAI.

"Estamos constantemente aprendendo e aprimorando a forma como identificamos quando um adolescente está passando por dificuldades e oferecemos a ele os recursos adequados de que precisa", relatou Jones.

O ChatGPT conta com controles parentais que enviam notificações de segurança em situações de alto risco, como quando uma criança fala sobre suicídio ou automutilação. A nova versão para adolescentes acrescenta notificações sobre transtornos alimentares e violência.

"É preciso encontrar um equilíbrio entre o direito do adolescente à privacidade e a gravidade do dano em si", disse Jonas, ao justificar por que essas questões só foram incluídas na atualização mais recente.

O ChatGPT para adolescentes os direcionará a aplicações educacionais e incluirá lembretes mais frequentes para fazer pausas e "horários de silêncio", períodos que usuários ou pais poderão definir para bloquear o acesso ao recurso.

Jonas disse que a OpenAI "não vê, neste momento, um problema de uso nocivo ou de uso prolongado no ChatGPT".