Actualité : La solution d'Anthropic pour repérer les textes générés par IA ne me convainc pas

Anthropic ne le fait sans doute pas de gaieté de cœur puisque sa solution est là pour répondre à l'article 50 du règlement européen sur l'IA. Sur le papier, l'idée est excellente pour traquer les textes générés par IA. Surtout face à la pauvreté des textes qui envahissent la toile depuis la mise à disposition de ChatGPT pour le grand public en fin d'année 2022.

Sauf que voilà, cette méthode de sélection des mots a ses limites et surtout ses gros problèmes. C'est le 11 août 2026 qu'Anthropic a présenté sa solution. Comment ça marche ? Version simple. Prenons l'exemple de Claude qui génère une phrase sur la météo. L'IA peut choisir un mot ou un autre pour conclure sa phrase qui a le même sens et la lecture est la même pour le lecteur.

Sauf qu'à ce moment, Anthropic dicte lequel choisir entre les deux mots via une sorte de code secret. Le choix est imposé et laisse une trace que le lecteur ne voit pas. C'est depuis le 2 août dernier que les nouveaux modèles d'Anthropic marquent les textes. Mais le laboratoire compte bien étendre son marquage aux autres modèles.

Alors oui, dit comme ça, c'est une solution ingénieuse puisque les métadonnées d'un texte sont modifiables. Mais ce choix touche à la manière dont une IA fonctionne. Car un mot équivalent reste un mot différent quoi qu'il arrive. Anthropic tente de rassurer et explique qu'il n'y a eu aucune perte de lisibilité lors de ses essais internes. Pourtant, la start-up garde pour elle les détails de sa méthode, mais aussi ce code secret.

D'abord, prenons le premier cas où cette solution pose problème : c'est la traduction. Par exemple, une personne qui rédige un texte dans une langue puis demande à Claude de traduire ses recherches faites sur plusieurs semaines. Tout lui appartient, que ce soit les sources, le raisonnement, la créativité humaine. Et pourtant, le texte anglais qui en ressort porte la signature d'Anthropic.

Idem pour la correction. Des avocats, des universitaires, des chercheurs ou des étudiants utilisent Claude pour traquer fautes et coquilles dans de longues pages de textes. Demander un listing à une IA puis corriger soi-même est possible mais bien plus chronophage.

La solution me demanderez-vous ? Se passer de l'IA, tout simplement. Jeter Claude à la poubelle et retourner à la bonne vieille traduction en passant par des personnes dont c'est le métier ou un secrétaire de rédaction pour les fautes. Des solutions extrêmes que tout le monde ne voudra pas adopter (et on le comprend, aucun jugement là-dessus). Car, vous vous en doutez, Anthropic ne propose absolument rien pour retirer son marquage qui se trouve au niveau du modèle.

Et puis, parlons de quelque chose que peu évoquent. Beaucoup de services tiers reposent sur l'API d'Anthropic. Si un utilisateur passe par un outil de correction en ligne basé sur Claude, son texte sera marqué sans qu'il le sache. L'internaute de bonne foi se retrouverait alors dans une situation d'accusation d'utilisation du modèle pour son devoir ou tout autre texte.

Anthropic assure qu'une interface de vérification sera prochainement proposée, mais ne donne pas de date.