Anthropic rend les textes de Claude détectables par machine

L’Union européenne impose une identification des contenus générés par IA avec le règlement 2024/1689. Le texte européen demande que les contenus dits « synthétiques » soient détectables par machine. Cette exigence vise la transparence, mais elle crée aussi une infrastructure d’identification. Des gouvernements ou des plateformes pourraient ensuite séparer les textes selon leur mode de production. La qualité du contenu ne serait alors plus le seul critère observé. Anthropic a annoncé que les futures versions de Claude intégreront des filigranes textuels identifiables. D’autres entreprises spécialisées dans l’IA devraient suivre cette orientation. Le règlement européen constitue le cadre juridique cité dans cette évolution.

Comment fonctionne le filigrane textuel

La détection statistique remplace les indices stylistiques souvent avancés pour reconnaître un texte généré. Un tiret cadratin ou deux-points ne prouvent pas l’origine artificielle d’un passage. Ces signes existaient bien avant ChatGPT et Claude. Les habitudes d’écriture associées à l’IA peuvent aussi devenir obsolètes, car les modèles produisent des textes plus proches de ceux des humains.

Anthropic s’appuiera sur SynthID-Text, une méthode développée par Google. Le système insère un filigrane caché pendant la génération. Il peut être détecté sans rappeler le modèle de langage, consulter une base de données ou mobiliser beaucoup de puissance de calcul. Anthropic décrit son approche.

Le modèle choisit les textes par unités appelées jetons. Ces unités peuvent correspondre à des fragments de mots, des mots entiers, des nombres ou des signes de ponctuation. À chaque étape, le modèle estime plusieurs suites possibles et leurs probabilités. Dans l’exemple de Google Gemini, « mango » reçoit 50 %, « lychee » 30 %, « papaya » 15 % et « durian » 5 %. SynthID organise ensuite un tournoi entre plusieurs candidats issus des choix habituels du modèle. Une clé secrète et le texte récent produisent une valeur appelée graine. Cette graine détermine le score des candidats. Le jeton gagnant devient l’étape suivante du texte généré.

Les centaines de choix construisent progressivement le filigrane statistique. Aucun mot précis ne signale systématiquement la présence du marquage. « Mango » peut gagner dans une phrase, puis perdre dans une autre. Un seul tournoi ne suffit donc pas pour établir une détection. Après plusieurs centaines de compétitions, les textes marqués contiennent davantage de jetons influencés par les graines que ne le produirait le hasard ordinaire. Un algorithme disposant de la clé secrète reconstitue les jetons et les scores. Il mesure ensuite leur corrélation avec le filigrane. Les passages longs apportent davantage d’éléments, tandis que les textes factuels ou très retravaillés offrent moins de choix acceptables au modèle.

Les plateformes peuvent filtrer les textes IA

Les usages marketing concentrent le risque opérationnel décrit par l’analyse. Les moteurs de recherche pourraient dévaluer des pages assistées par IA. Des modèles de langage pourraient éviter ces textes comme sources. Des réseaux sociaux pourraient réduire leur diffusion. Pinterest applique déjà une telle pratique selon l’article. Des messageries pourraient aussi classer ces contenus dans les courriers indésirables ou dans un dossier « probablement généré par IA ». Cette ségrégation toucherait notamment les équipes qui utilisent l’IA générative pour produire et réutiliser du contenu à moindre coût. Le filigrane pourrait ainsi devenir un indicateur de qualité, même si son objectif initial reste l’identification.

Le seuil de détection reste central dans ce mécanisme. Un passage dépassant ce seuil serait considéré comme généré par IA ou, au minimum, aidé par IA. La détection repose toutefois sur des probabilités. Un ou deux jetons favorisés peuvent apparaître par hasard, tandis que plusieurs centaines fournissent une indication statistique plus forte. Selon l’article, des faux positifs sont probables si le seuil est fixé trop bas. Cette imperfection peut donc affecter des textes composés avec des retours d’utilisateurs ou des contraintes factuelles. Le sujet concerne désormais les moteurs de recherche, les réseaux sociaux, les modèles de langage et les clients de messagerie.