Anthropic rend Claude traçable, au risque du filtrage

Anthropic annonce l’ajout de filigranes textuels identifiables dans toutes les prochaines versions de Claude. Cette décision répond à l’obligation européenne de rendre les contenus synthétiques détectables. Le règlement européen 2024/1689 vise davantage de transparence sur les contenus produits par l’intelligence artificielle. Mais cette infrastructure pourrait aussi permettre à des plateformes ou à des gouvernements de classer des textes selon leur mode de production. Le risque évoqué concerne le filtrage, voire la restriction de contenus pourtant évalués sur leur qualité. Pour les professionnels du marketing, l’identification technique devient donc un sujet opérationnel. Le texte original détaille cette analyse dans Practical Ecommerce.

Le règlement européen demande que les contenus synthétiques soient identifiables par des systèmes automatisés. Les indices stylistiques classiques ne suffisent pas pour établir une origine. Le tiret cadratin et les deux-points existaient bien avant ChatGPT ou Claude. Une base recensant les habitudes d’écriture des modèles deviendrait aussi rapidement obsolète. Les modèles produisent des textes de plus en plus proches de ceux écrits par des humains. Anthropic s’appuiera donc sur SynthID-Text, une méthode développée par Google. Elle intègre un filigrane caché pendant la génération. La détection fonctionne sans interroger à nouveau le modèle, sans consulter une base externe et avec une puissance de calcul limitée. Anthropic décrit son approche.

SynthID influence chaque jeton

Le mécanisme statistique intervient à chaque nouveau jeton généré. Un jeton peut être une partie de mot, un mot entier, un nombre ou une ponctuation. Le modèle estime plusieurs suites possibles et leur probabilité. Dans l’exemple de Google Gemini, « mango » reçoit 50 %, « lychee » 30 %, « papaya » 15 % et « durian » 5 %. SynthID organise ces candidats dans un tournoi. Un nombre appelé graine est produit à partir du texte récent et d’une clé secrète. Cette graine attribue des scores aux candidats. Le jeton gagnant poursuit la génération. Le processus recommence avec un nouveau contexte et une nouvelle graine à chaque étape.

Le filigrane apparaît dans la répétition de ces choix, pas dans un mot précis. « Mango » peut gagner dans une phrase et perdre dans une autre. Un seul tournoi ne prouve donc rien. Après des centaines de confrontations, le texte peut contenir davantage de jetons influencés par la graine que ne le permettrait le hasard ordinaire. Un détecteur disposant de la clé secrète reconstitue les jetons et les scores associés. Il mesure ensuite leur corrélation avec le filigrane. Les passages longs fournissent davantage d’indices. À l’inverse, les textes factuels ou fortement modifiés par des retours humains offrent moins de choix exploitables pour le mécanisme. L’étude publiée dans Nature présente cette logique statistique.

Les plateformes pourraient filtrer

Le risque commercial vient d’un usage possible du seuil de détection. Un moteur de recherche pourrait réduire la visibilité de pages aidées par une IA. Un modèle de langage pourrait éviter ces pages comme références. Un réseau social pourrait diminuer leur diffusion. Le texte cite Pinterest comme exemple d’une plateforme qui applique déjà ce type de traitement. Un client de messagerie pourrait aussi classer ces contenus dans les courriers indésirables ou dans un dossier « probablement généré par IA ». Pour les équipes de commerce électronique, une séparation des contenus générés pourrait limiter l’intérêt économique de la production automatisée. Cette conséquence reste présentée comme une possibilité liée à l’identification.

La détection comporte toutefois une limite statistique importante. Un texte dépassant le seuil pourrait être considéré comme généré ou assisté par une IA. La précision dépend du nombre de choix exploitables pendant la rédaction. Un seuil trop bas augmenterait le risque de faux positifs. Des contenus humains pourraient alors être classés à tort. Le règlement européen est consultable dans le texte officiel de l’Union européenne. Anthropic a annoncé son orientation pour Claude, tandis que d’autres entreprises du secteur pourraient adopter des méthodes comparables. La question centrale devient donc l’usage du signal détecté, entre transparence sur l’origine et filtrage automatique. Pour aller plus loin, consultez notre guide sur les usages de l’IA en marketing digital pour PME.