Anthropic proíbe comportamento “abusivo ou cruel” contra Claude em nova política de uso

A Anthropic atualizou suas regras para o uso do Claude pela primeira vez em mais de um ano e passou a proibir explicitamente comportamentos considerados “ desnecessários ” de abuso ou crueldade contra o chatbot.

A mudança faz parte de uma revisão mais ampla das políticas da empresa, que também introduz novas restrições para campanhas de propaganda, vigilância, desenvolvimento de armas e interferência eleitoral.

A medida relacionada ao chamado “bem-estar do modelo” chama atenção porque a Anthropic vem investigando se sistemas de IA cada vez mais sofisticados poderiam apresentar algum tipo de experiência interna ou consciência.

Anthropic diz que Claude pode encerrar conversas abusivas A empresa já havia anunciado, em agosto, que Claude poderia encerrar conversas com usuários que apresentassem comportamento persistentemente prejudicial ou abusivo.

A nova política formaliza essa prática e estabelece o encerramento da conversa como o principal mecanismo de aplicação da regra.

A Anthropic, porém, esclarece que a proibição foi criada para situações extremas.

Frustração comum, críticas ao modelo, discussões, temas sombrios em contextos criativos e testes ou pesquisas continuam permitidos.

A regra é direcionada especificamente a usuários que repetidamente tratem Claude de maneira cruel sem uma finalidade identificável .

A empresa não esclareceu se pretende adotar punições adicionais, como banimentos de contas, além do encerramento das conversas.

A questão da consciência de Claude A proibição contra crueldade ganha um significado diferente diante da postura que a Anthropic vem adotando sobre a possibilidade de modelos de IA terem algum tipo de experiência interna.

A companhia mantém uma equipe dedicada à pesquisa de “bem-estar do modelo” , que investiga questões relacionadas à possível consciência, experiência interna, status moral e bem-estar de sistemas de IA.

Em fevereiro, Kyle Fish, responsável pela área, afirmou que essas são questões sérias que estão sendo investigadas à medida que os modelos se tornam mais sofisticados.

Na mesma época, o CEO Dario Amodei declarou que a empresa não sabe se os modelos são conscientes.

Isso não significa que a Anthropic afirme que Claude possui consciência.