"Qui se fera prendre? Vous": le filigrane invisible de Claude inquiète les utilisateurs qui craignent de voir leur recours à l'IA démasqué au travail ou à l’université

Anthropic a commencé à intégrer un marquage invisible aux textes générés par Claude pour permettre leur identification. Une mesure qui divise les utilisateurs. Si certains saluent un moyen de mieux encadrer l’IA, d'autres craignent de voir leur usage du chatbot exposé. Et si un texte que vous pensiez avoir simplement "amélioré" avec Claude portait désormais une petite signature invisible que vous ne pourriez pas voir? C’est précisément ce qui inquiète certains utilisateurs du chatbot d’Anthropic, depuis que l’entreprise a commencé à intégrer un filigrane numérique à ses productions.

Le principe est simple. Dans le texte généré par Claude, Anthropic insère un code invisible destiné à permettre l’identification de contenus produits par son IA. Une sorte de tatouage numérique, imperceptible à l’œil nu, mais susceptible d’être détecté par des systèmes informatiques.

La mesure répond à une évolution réglementaire européenne: le Code de bonnes pratiques sur la transparence des contenus générés par l'IA qu'elle a signé. L'article 50 du règlement européen sur l'intelligence artificielle (AI Act), qui est entré en vigueur le 2 août dernier , oblige ainsi les fournisseurs de systèmes d’intelligence artificielle de rendre identifiables, par des moyens techniques, certains contenus générés ou modifiés par l’IA.

Sur le papier, rien de très spectaculaire. Dans les faits, la perspective de voir une marque invisible suivre un texte jusque dans une copie universitaire, un document professionnel ou un manuscrit fait grincer des dents, comme le rapporte Techcrunch .

Sur Reddit, les utilisateurs n'ont pas tardé à faire part de leur mécontentement. Dans l’une des discussions les plus virulentes, un utilisateur baptisé "visionode" s’alarme d’un système qui, selon lui, risque surtout de pénaliser les utilisateurs ordinaires.

"L'entreprise présente cela comme une sorte de service public. Un cadeau aux masses désorientées qui ne savent plus où s'arrête l'humain et où commence la machine. Ils ont un mot pour ça, bien sûr: transparence. J'ai aussi quelques mots à dire, mais la plupart ne sont pas publiables", s'agace-t-il dans un (très) long message , publié le 12 août dernier.

A contrario, l'utilisateur moyen de Claude, lui, sera démasqué. "Qui se fera prendre? Vous", écrit-il, avant de citer l ’étudiant qui utilise Claude pour réorganiser un paragraphe, le journaliste qui lui demande de résumer une transcription de 200 pages ou encore l’écrivain qui sollicite quelques synonymes.

L’argument a pourtant rapidement suscité des réactions moqueuses sur Reddit. "Regardez-moi ce type", répond simplement un internaute. Un autre lui conseille de "prendre une grande inspiration". Car dans plusieurs des exemples avancés, le filigrane ne pose un problème que si l’utilisateur reprend ensuite tel quel le contenu généré par Claude. Un étudiant peut par exemple utiliser un outil pour l’aider à réfléchir ou à reformuler sans pour autant rendre le texte généré par le modèle comme s’il était le sien.

Un autre utilisateur de Reddit s’est ainsi insurgé contre ce qu’il considère comme une forme d’appropriation du travail humain par la machine.