Marca d’água do Claude ajuda na transparência, mas não prova autoria de textos

A Anthropic revelou uma marca d’água para verificar se um “passou” pelo Claude ou não.

A iniciativa busca atender às regras de transparência do AI Act europeu, mas não deve ser interpretada como uma prova definitiva de que o texto foi escrito com IA , sobretudo após revisões humanas.

Segundo o fundador do Centro de Excelência em Inteligência Artificial da Universidade Federal de Goiás (CEIA-UFG), Anderson Soares, a solução deve ser entendida como um sinal de procedência ou de transparência probabilística , e não como prova isolada.

A técnica pode apontar que o Claude provavelmente participou da produção de um conteúdo , mas não separa, por si só, um texto integralmente gerado pelo modelo de outro que foi elaborado por uma pessoa e apenas revisado com IA.

Essa diferença é importante em situações de contestação, como suspeitas de plágio, fraude acadêmica ou desinformação.

Nesses casos, a marca d’água não permite concluir sozinha quem escreveu o texto, em que proporção a IA foi usada ou se houve edição humana posterior .

“Você pode ter uma suspeita, mas transformar essa suspeita em uma prova é algo muito mais complexo.

Em um contexto criminal, por exemplo, seria extremamente difícil utilizar esse tipo de mecanismo como prova isolada”, disse Soares em entrevista ao Canaltech .

Na avaliação do especialista, o uso mais adequado da tecnologia é complementar outros mecanismos de verificação .

“O objetivo declarado da tecnologia, relacionado ao artigo 50 do AI Act, é funcionar como um sinal de proveniência ou de transparência probabilística.

Não é um detector forense à prova de adversários”, diz.

Detecção depende de chave privada e de textos longos O indicador não inclui caracteres ocultos , metadados ou uma informação extra no texto, ao contrário do que ocorre em imagens.

De acordo com a Anthropic, o sistema modifica a fonte de aleatoriedade utilizada pelo modelo para escolher entre palavras plausíveis durante a geração.

“Quando a IA está escolhendo a sequência de palavras, ela utiliza probabilidades para fazer essas escolhas”, explica Soares.