Vão saber se texto foi feito por IA? Anthropic detalha marca d'água

A Anthropic, desenvolvedora do chatbot Claude, publicou um post para explicar como vai colocar uma "marca d'água" nos textos gerados pelo seu chatbot para atender exigências do AI Act da União Europeia.

A empresa diz que a marcação cria um padrão estatístico no texto, imperceptível para o leitor, mas detectável por quem tiver uma "chave" de verificação . "A marca d'água não afeta a qualidade da saída do Claude", afirmou a empresa em blog post.

A Anthropic afirma que não adiciona caracteres escondidos nem insere informações de identificação no conteúdo marcado . "Para um leitor, uma resposta com marca d'água é indistinguível de uma sem marca d'água", disse a empresa.

O método escolhido é o SynthID-Text, abordagem descrita pela equipe do Google DeepMind em 2024, e a companhia planeja lançar uma API para detecção . "Identificar esses padrões é fundamentalmente diferente de checar uma marca d'água", afirmou a empresa em publicação, ao diferenciar o sistema de ferramentas que tentam "adivinhar" uso de IA por traços de escrita.

A empresa reconhece que reescrever pode reduzir ou remover a marcação, mas diz que mudanças pequenas tendem a não apagar tudo . "Edição leve provavelmente não vai remover a marca d'água completamente", afirmou.

Segundo a Anthropic, uma reescrita total, com troca de cada palavra, tende a eliminar a marcação . "Uma reescrita completa em que cada palavra é substituída vai", informa a empresa, acrescentando: "Nesse caso, é discutível se o texto ainda pode ser descrito como gerado por IA".

Textos apenas revisados ou levemente editados pelo Claude podem não carregar marcação relevante, dependendo do tamanho e do nível de intervenção . Nesses casos, quase todas as palavras "são do autor humano" e "há muito pouco (se houver algo) para a marca d'água se prender".

Em código, a marca tende a ser menor porque o modelo tem menos liberdade para escolher entre alternativas equivalentes sem quebrar o funcionamento . "Em áreas em que há uma escolha arbitrária entre palavras ou termos dentro do código, a marca d'água pode ser usada, como em comentários no código", disse a Anthropic, mas ressaltou: "Por definição, ela terá um efeito negligenciável no código de fato produzido".

O site americano TechCrunch relata que houve críticas e teorias nas redes, enquanto o Business Insider registrou que "dezenas" de pessoas no X disseram que cancelariam a assinatura do Claude . A Anthropic sustenta que a marca não carrega dados que permitam rastrear pessoa, organização ou conversa específica.

A empresa também afirma que a marcação não será exclusiva do Claude . "Outros grandes desenvolvedores de modelos assinaram o mesmo Código de Prática e vão implementar suas próprias marcas d'água".

O autor da mensagem, e não o UOL, é o responsável pelo comentário. Leia as Regras de Uso do UOL.