Anthropic proíbe comportamento "cruel" contra sua IA Claude

A empresa americana atualizou sua política de uso para incluir "a proibição de comportamento contínuo e desnecessariamente abusivo ou cruel contra nossos modelos".

"A capacidade de Claude de encerrar essas interações continuará sendo o principal mecanismo de aplicação" da política, afirmou.

A política atualizada não menciona explicitamente o chamado "bem-estar dos modelos", conceito segundo o qual sistemas de IA poderiam merecer tipos de proteção normalmente reservados a seres vivos. No entanto, a Anthropic e seus executivos já discutiram abertamente essa ideia.

A empresa informou no ano passado que concedeu ao Claude a capacidade de encerrar conversas em casos raros e extremos de "interações persistentemente prejudiciais ou abusivas por parte de usuários".

Em seguida, em fevereiro, seu CEO Dario Amodei declarou ao New York Times que não tinha certeza de que modelos de IA pudessem ser conscientes.

Para Jackson Stakeman, gerente-geral da Sparq, fornecedora de serviços de IA, questionar se a inteligência artificial é consciente pode ser a pergunta errada. "A consciência é uma armadilha. Não podemos prová-la nos outros. Debatê-la no caso da IA nos fará andar em círculos", disse Stakeman à AFP.

"O espelho é uma metáfora melhor. Esses sistemas refletem em larga escala aquilo que colocamos neles. Isso, por si só, já é motivo suficiente para a mudança de política" da Anthropic, acrescentou.

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.