Marca d'água no Claude gera revolta e abre margem para 'IA mais burra'

A Anthropic decidiu colocar uma marca d'água invisível em textos gerados (e até revisados) pelo Claude para cumprir regras de transparência do AI Act, da União Europeia. A reação foi barulhenta: parte dos usuários viu a medida como um carimbo que pode "entregar" quem usa IA no trabalho e, pior, como um incentivo para a ferramenta escolher palavras não porque são as melhores, mas porque ajudam a deixar um rastro.

*Segundo a Anthropic, o sistema é uma versão do SynthID-Text, tecnologia associada ao Google DeepMind, que cria padrões detectáveis a partir de probabilidades de escolha de palavras.

*Na prática, a marca não aparece como um selo visível: ela surge como um "padrão estatístico" no jeito como o modelo escolhe entre palavras parecidas quando tanto faz (por exemplo, "nublado" ou "encoberto").

*A Anthropic afirma que isso não deve ter impacto prático na qualidade do texto nem deixar o Claude mais caro ou mais lento - críticos discordam e afirmam que isso pode piorar a qualidade dos conteúdos gerados, já que a IA não vai mais buscar apenas a melhor palavra para determinado contexto.

*A empresa também reconhece que, dependendo do tamanho do texto e do quanto o Claude mexeu nele, a marca pode aparecer mesmo quando a pessoa só pediu revisão, tradução ou resumo - ou seja, o sinal indica que o Claude processou o conteúdo, não necessariamente que ele escreveu do zero.

O argumento oficial é simples: se a internet está virando um mar de texto feito por máquina, faz sentido criar um jeito de identificar esse material - como um rótulo de ingredientes num alimento. O problema é que, do jeito que a Anthropic descreve, o rótulo não fica na embalagem: ele pode ficar misturado na receita, inclusive quando você só pediu para alguém "dar uma revisada" no tempero.

Isso mexe com uma fronteira que muita gente usa no dia a dia sem pensar: escrever não é o mesmo que revisar. Se eu peço para o Claude corrigir vírgulas, ajustar concordância ou traduzir um parágrafo, eu não estou terceirizando a autoria - estou pedindo um serviço parecido com o de um revisor humano.

Tem também um incômodo de princípio, levantado por críticos: para deixar um rastro detectável, o modelo passa a ter um objetivo extra além de escrever bem. É como se um corretor ortográfico, em vez de só consertar erros, às vezes trocasse uma palavra por outra "quase igual" para colocar uma assinatura invisível.

E aí entra a ironia que alimenta a revolta: a indústria de IA foi construída, em grande parte, em cima de textos de outras pessoas (muitas vezes sem o autor ter concordado com isso). Para quem depende do Claude em fluxos de trabalho (tradução, pesquisa, programação, revisão), isso soa como: "o conteúdo do mundo treinou a IA; e a IA agora devolve o texto com um selo que pode te complicar".

Por fim, a promessa de transparência tem um calcanhar de Aquiles: a marca é detectável por quem tem a chave e a ferramenta.