Marquer les textes générés par IA : pourquoi l'idée d'Anthropic est un parapluie troué

Après les louanges, les critiques.

Le 11 août, Anthropic a annoncé que les textes produits par ses modèles Claude porteraient désormais une marque invisible .

Les réactions ont été vives, entre accusations de mouchardage et crainte d’être signalé comme tricheur .

L’objet technique est plus modeste que la controverse.

Une IA produit son texte token par token, ces fragments de mots qui servent d’unité de calcul et de facturation.

À chaque étape, plusieurs suites sont plausibles et elle en choisit une au hasard.

Le filigrane consiste à truquer discrètement ce tirage au sort en favorisant une moitié du vocabulaire désignée par une clé secrète.

Sur une phrase, l’écart reste indétectable.

Sur plusieurs centaines de mots, un test statistique permet de retrouver la trace de l'IA.

Contrairement à ce qui a circulé, aucun caractère invisible n’est ajouté dans le texte et la réponse ne consomme pas davantage de tokens.

Ce que le procédé dépense, c’est de l’entropie : la marge de choix du modèle.

Cette technique se heurte à plusieurs limites.

Un texte court généré par IA n'affiche aucun signal fiable de sa provenance.

L’article fondateur de John Kirchenbauer et de ses coauteurs de l’université du Maryland évoquait en 2023 un seuil autour de vingt-cinq tokens.