Anthropic explica como funcionará marca d'água nos textos do Claude

A empresa de inteligência artificial (IA) Anthropic, responsável pelo Claude, detalhou o funcionamento e as regras das marcas d'água em textos gerados na plataforma.

A tecnologia foi confirmada na última semana e será implementada em modelos de linguagem futuros.

O recurso foi implementado para que a companhia se adeque às novas leis da União Europeia sobre IA , o que significa que outros chatbots também devem adotar ferramentas parecidas.

Porém, a adoção levantou muitas dúvidas na comunidade, em especial sobre como seria possível identificar um texto de IA sem adicionar elementos especiais no documento de texto , como acontece com a identificação de imagens, e se tudo isso afeta de alguma forma o desempenho da IA.

Como os textos de IA serão identificados? Segundo a Anthropic, a marca d'água em questão não gera qualquer mudança no visual, qualidade ou no formato do texto.

Na verdade, ela nem sequer é um elemento gráfico que pode ser "lido" por algum sistema ou é inserido de forma sorrateira no conteúdo.

A marca d'água em textos é na verdade uma série de cálculos complexos e instantâneos que leva em conta a chance do Claude de escolher uma palavra após a outra ao longo de uma frase e, assim, formular textos inteiros.

Marca d'água começa a ser implementada em breve dentro do Claude. (Imagem: Robert Way/Getty Images).

Esse padrão pode ser "descriptografado" com uma chave de raciocínio que só o Claude tem e permite ao chatbot saber se foi ele mesmo quem poderia ter gerado o texto.

O conjunto de " escolhas de baixo impacto " da IA ao gerar um texto segue um padrão mais ou menos esperado que não é exatamente o mesmo adotado em um texto feito por humanos e pode ser reconhecido pelo chatbot.

"A marca d'água não altera o significado nem a experiência de quem lê o texto , mas, se você quiser verificar posteriormente se é provável que o texto tenha sido gerado pelo Claude, ela permite fazer isso", explica.

Ou seja, o Claude vai analisar o texto completo e, se a probabilidade de formação de todas as frases coincidir com as escolhas que a própria IA faria, o detector indicará que aquele material pode ter sido feito pela plataforma .