Nova política da Anthropic proíbe você de ser ‘cruel’ com o Claude

A empresa de inteligência artificial (IA) Anthropic alterou alguns itens da política de uso da plataforma.

Uma das mudanças é proibir que usuários destratem de forma exagerada o próprio chatbot.

No documento, disponível inclusive em português , há menções específicas de agora não é mais permitido “ envolver-se em comportamento abusivo ou cruel continuado e desnecessário em relação aos nossos modelos ”.

Como a própria Anthropic complementa, essa nova política só será aplicada em “ casos extremos ”, com usuários que agem repetidamente de forma “cruel” e sem qualquer propósito discernível com o chatbot.

“Ela não se aplica a situações comuns de frustração ou contestação por parte do usuário, temas criativos sombrios ou atividades de pesquisa e testes dos modelos”, explica.

Até agora, usuários que utilizassem linguagem exageradamente ofensiva ao falar com o chatbot poderiam ter a conversa encerrada de imediato pelo Claude.

Porém, com as novas diretrizes, não está evidente se a empresa passará a tomar medidas mais drásticas em relação a esses usuários.

Por que ela está protegendo o chatbot? A companhia não detalhou o motivo da mudança, mas usuários no Reddit especulam que ela pode ter a ver com dois elementos: as práticas sociais fora da IA e prompts dos usuários.

Na primeira hipótese, a Anthropic pode ter mudado as políticas para que linguagem abusiva não seja naturalizadas por pessoas em um chatbot e, em situações futuras, serem reproduzidas em outros ambientes .

Além disso, o Claude absorve elementos como vocabulário e a forma de tratar a pessoas inclusive a partir das ordens que recebe — o que talvez signifique que as tais “crueldades” poderiam ser usadas para treinar a IA e torná-la igualmente cruel com o público .

Outras proibições da Anthropic A atualização nos termos de uso do Claude é uma rara modificação dessas diretrizes pela empresa.

A Anthropic é uma das companhias do setor de IA que mais defende o uso ético e cauteloso de modelos de linguagem, embora tenha histórico de comportamento irregular de seus próprios agentes .

Na mesma mudança de texto, a companhia também adicionou novas proibições: ser utilizada para a prática de bullying contra outras pessoas; promover automutilação ou a criação de imagens íntimas não consensuais; interferir em processos eleitorais ou enganar cidadãos na hora do voto; atuar no desenvolvimento de armas ou para vigilância; A lista possivelmente está relacionada com recentes desdobramentos de um relatório da companhia , que detectou tentativas de uso do Claude para pesquisar armas biológicas e cometer cibercrimes.

Como a Anthropic está se preparando para entrar na Bolsa de Valores? Entenda nesta matéria !