Grosseria tem limite até para a IA: Anthropic quer barrar abusos e autoriza Claude a encerrar conversas

Claude, rival do ChatGPT, vai revelar quem criou texto com IA; veja como vai funcionar Tem gente que agradece ao chatbot pelas respostas e não dispensa um “por favor”.

Outros preferem ir direto ao ponto.

Já alguns perdem a paciência quando a inteligência artificial erra e não fazem questão de esconder a irritação.

Afinal, é só um robô, não é? Ou será que ele tem sentimentos? (entenda mais abaixo). 😡 A Anthropic, empresa responsável pelo Claude, atualizou sua política de uso para proibir comportamentos abusivos ou cruéis persistentes e desnecessários contra seus modelos de inteligência artificial (IA). 🗒️ Tem alguma sugestão de reportagem? Mande para o g1 Segundo a empresa, a capacidade de o Claude encerrar conversas desse tipo continuará sendo o principal mecanismo para aplicar a regra.

A política, porém, não proíbe qualquer crítica ou manifestação de insatisfação com as respostas do chatbot: a restrição se refere a interações abusivas ou cruéis persistentes e desnecessárias. ➡️ Nova política de uso entra em vigor em 12 de novembro e proíbe comportamentos abusivos ou cruéis persistentes e desnecessários contra os modelos da empresa A mudança ocorre em meio a um debate sobre a possibilidade de sistemas de inteligência artificial desenvolverem algum tipo de consciência e sobre como essas ferramentas devem ser tratadas.

O que diz a Anthropic A política atualizada não menciona explicitamente o chamado bem-estar dos modelos, conceito que discute se sistemas de inteligência artificial poderiam merecer algum tipo de proteção moral.

A Anthropic e seus executivos, no entanto, já abordaram publicamente essa possibilidade.

No ano passado, a empresa informou que daria ao Claude a capacidade de encerrar conversas em casos raros e extremos de interações persistentes ou abusivas com usuários.

Em fevereiro, o presidente-executivo da companhia, Dario Amodei, disse ao jornal The New York Times que não tinha certeza se modelos de IA poderiam ser conscientes, mas que estava aberto a essa possibilidade.

“Não sabemos se os modelos estão conscientes...

Mas estamos abertos à ideia de que isso possa ser”, afirmou Amodei.

Debate sobre consciência artificial A possibilidade de máquinas desenvolverem consciência divide opiniões entre pessoas que estudam ou trabalham com inteligência artificial.

Ainda não há consenso científico sobre como definir ou identificar a consciência em sistemas desse tipo.

Jackson Stakeman, gerente-geral da Sparq, empresa de serviços de IA sediada em Atlanta, disse à AFP que concentrar a discussão na consciência pode levar a debates sem conclusão.