IA tem sentimentos? Claude poderá encerrar conversas “cruéis”

Uma atualização na política de uso da Anthropic nesta semana trouxe uma mudança importante para usuários do Claude.

A desenvolvedora passou a proibir “comportamento abusivo ou cruel” contra seus modelos de inteligência artificial.

Nesse caso, quando usuários tratarem o Claude “mal”, o chatbot pode encerrar aquela conversa.

A empresa deixou claro que as pessoas podem continuar criticando o sistema e expondo insatisfação com as respostas.

A possibilidade de encerrar o diálogo acontecerá em situações em que os ataques forem “persistentes e desnecessários” contra a tecnologia.

Leia Mais OpenAI flagra modelo de IA tomando ações não autorizadas - mais uma vez CEO da Anthropic defende desaceleração de IA para garantir segurança "Pode acabar em extinção humana": audiência em NY pode definir futuro da IA A Anthropic não detalhou o que considera um comportamento abusivo ou cruel.

A política entra em vigor em 12 de novembro.

Claude tem consciência? O recurso foi apresentado pela primeira vez em agosto do ano passado, como uma forma de garantir o bem-estar da IA.

A medida vem em meio a discussões sobre se as inteligências artificiais teriam consciência.

Empresas do setor buscam uma superinteligência, uma etapa em que a tecnologia atinge capacidade de raciocínio igual ou superior a dos humanos.

Na política de uso atualizada, a Anthropic escreve que não tem certeza sobre o “potencial status moral do Claude ou de outros modelos de linguagem, agora ou no futuro”.

Mesmo assim, está implementando recursos de segurança justamente para evitar um caso do tipo.

“Estamos trabalhando para identificar e implementar intervenções de baixo custo para mitigar os riscos ao bem-estar dos modelos, caso esse bem-estar seja possível.

Permitir que os modelos encerrem ou saiam de interações potencialmente angustiantes é uma dessas intervenções”, afirmou a desenvolvedora em seu site.