Anthropic mostra como Claude insere marca d'água "invisível" em textos feitos por IA

A Anthropic revelou detalhes de como funciona o sistema de marca d’água invisível aplicado aos textos gerados pelo Claude.

A tecnologia cria um padrão estatístico nas respostas para identificar conteúdos produzidos pela IA, sem inserir caracteres ocultos ou elementos perceptíveis para quem lê.

A medida está relacionada ao compromisso de aumentar a transparência sobre conteúdos gerados por inteligência artificial e também atende às exigências do AI Act, a Lei de Inteligência Artificial da União Europeia.

Segundo a Anthropic, o sistema será aplicado globalmente no lançamento de futuros modelos e está sendo implementado de forma gradual nos modelos antigos nos próximos meses.

De acordo com a empresa, a tecnologia não causa impacto na qualidade, criatividade ou legibilidade das respostas.

Além disso, o mecanismo não exige tokens extras, não aumenta o custo de geração e não inclui informações que permitam identificar o usuário, a conversa ou a organização.

A marca d’água também não altera a propriedade legal do conteúdo nem a responsabilidade do usuário pelo material gerado.

O objetivo é indicar a procedência do texto , e não restringir seu uso.

Como funciona a marca d’água do Claude? A marca d’água é inserida durante a própria geração da resposta .

Quando o Claude precisa escolher qual será a próxima palavra, o sistema pode direcionar a seleção entre termos que têm significado semelhante.

Em uma frase na qual “nublado” e “cinzento”, por exemplo, funcionam igualmente bem, o mecanismo usa uma chave específica para influenciar discretamente a escolha.

A sequência de palavras formada pelo modelo cria, então, um padrão estatístico que pode ser identificado posteriormente.

A tecnologia é baseada no SynthID-Text , sistema desenvolvido pelo Google DeepMind.

A Anthropic também pretende lançar uma API de detecção para que empresas e usuários possam verificar a probabilidade de determinado texto ter sido produzido pelo Claude.