Anthropic lutte contre les contournements de ses étiquettes IA

Anthropic a annoncé un système d’étiquetage destiné à signaler les contenus générés ou modifiés par certains de ses modèles d’intelligence artificielle, dont Claude Code, Claude Cowork et Claude Tag. Le dispositif repose sur des filigranes intégrés au texte ainsi que sur des métadonnées de provenance signées. Son objectif affiché est de répondre à l’article 50 de l’AI Act, qui impose aux fournisseurs de systèmes d’IA de mettre en place un mécanisme d’étiquetage pour les contenus générés ou modifiés par l’IA.

Anthropic étiquette les contenus IA

Cette annonce a rapidement été suivie par la multiplication de services en ligne affirmant pouvoir supprimer les marqueurs ajoutés par Anthropic. Parmi eux figurent plusieurs projets publiés sur GitHub, notamment watermarks-remover, claude-watermark-cleaner, remove-ai-watermarks et noai-watermark. Ces outils promettent de retirer les filigranes et les métadonnées associés aux contenus produits ou modifiés par les modèles de l’entreprise.

Pourtant, leur efficacité est loin d’être établie. Anthropic n’a pas détaillé le fonctionnement de son système d’étiquetage, ce qui complique la conception d’un outil capable de le contourner de manière fiable. Pasquale Pillitteri, chercheur en cybersécurité, a testé plusieurs services et constaté que l’un d’eux laissait encore des informations cachées dans le texte.

Les outils de contournement testés

La principale difficulté concerne toutefois le filigrane lui-même. Celui-ci serait intégré aux choix de mots du modèle, et non sous la forme de caractères dissimulés. Le supprimer nécessiterait donc de réécrire une grande partie du contenu avec un autre modèle d’intelligence artificielle. Une simple suppression de métadonnées ne suffirait ainsi pas forcément à effacer le signal présent dans le texte.

La source invite par conséquent à la prudence face aux sites apparus récemment et promettant des résultats infaillibles. Anthropic reconnaît d’ailleurs que son système d’étiquetage a « ses limites ». Tant que son mode de fonctionnement ne sera pas mieux documenté, il reste difficile d’évaluer dans quelle mesure les marqueurs peuvent réellement être supprimés ou contournés.

Pour Guillaume Meyer, fondateur de Memo et développeur de l’outil Watermarks Remover, l’initiative d’Anthropic constitue une « pure obligation de conformité pour rester sur le marché de l’UE ». Cette lecture ne change pas les incertitudes techniques autour des services de contournement, dont certains peuvent échouer à retirer les informations cachées ou le filigrane intégré aux formulations.