Anthropic appose une signature invisible aux textes de Claude

Anthropic a annoncé le marquage des sorties textuelles de ses modèles Claude. L’annonce remonte à quelques jours avant le 14 août, selon Sebastian Raschka. Le procédé doit permettre d’identifier un texte publié comme ayant été généré par Claude. Le marquage resterait invisible pour les utilisateurs. Anthropic pourrait toutefois le décoder afin de vérifier la présence de son propre signal. Raschka présente cette finalité avec l’exemple d’un texte attribué à un modèle Claude. Son analyse ne décrit donc pas un détecteur universel de textes générés par IA. Elle explique plutôt un mécanisme associé aux sorties des modèles d’Anthropic. L’auteur a consacré une vidéo de 48 minutes à ce fonctionnement détaillé. (annonce d’Anthropic)

Sebastian Raschka explique que son contenu devait initialement compter dix diapositives et durer dix minutes. Il a finalement dépassé cinquante diapositives pour atteindre 48 minutes d’enregistrement. Cette présentation prolonge une note publiée après une première explication du mécanisme. Les discussions suscitées par cette note ont conduit l’auteur à détailler davantage le procédé. Raschka présente le marquage comme une modification intégrée à la génération habituelle du texte. Il l’utilise aussi pour illustrer le fonctionnement interne des grands modèles de langage. Son approche commence par les étapes nécessaires à la production d’un token. La vidéo propose également des explications sur les possibilités d’échec ou de retrait du marquage. (vidéo de Sebastian Raschka)

Anthropic modifie le tirage des tokens

La génération commence par la conversion du texte d’entrée en identifiants de tokens. Cette tokenisation intervient avant le passage dans le modèle. Le modèle produit ensuite une distribution de scores pour le prochain token. Ces valeurs sont appelées logits et couvrent l’ensemble du vocabulaire possible. Dans l’exemple présenté, le prompt « the capital of Germany is » conduit à privilégier le token « Berlin ». Raschka indique que les vocabulaires actuels peuvent compter environ 250 000 tokens possibles. La génération ajoute ensuite le token obtenu au texte d’entrée. Le modèle recommence cette boucle jusqu’à la fin de la réponse, généralement signalée par un token de fin de texte. Le marquage s’insère dans cette chaîne de génération.

Le choix du token ne repose pas nécessairement sur la sélection systématique du score le plus élevé. Raschka décrit cette méthode simple sous le nom de décodage glouton. Elle consiste à choisir le token ayant le score maximal. Selon son explication, les grands modèles de langage utilisent souvent d’autres méthodes de tirage. Une sélection toujours identique pourrait produire les mêmes réponses et rapprocher la génération d’une mémorisation des données d’entraînement. Le fonctionnement du marquage doit donc être compris à partir de cette étape de sélection. Raschka insiste sur l’intérêt d’examiner le mécanisme depuis ses opérations élémentaires. Il estime que cette lecture permet de mieux situer l’intervention du marquage dans la génération, sans la présenter comme une couche indépendante et lourde.

Le marquage vise une identification ciblée

L’objectif déclaré est de reconnaître un texte provenant des modèles Claude lorsqu’il circule en ligne. Le signal doit rester invisible pour la personne qui lit le texte. Anthropic serait ensuite capable de le décoder pour rechercher son propre marquage. Cette approche distingue l’identification d’une sortie Claude d’une détection générale de tout contenu produit par un modèle de langage. Raschka souligne aussi que le marquage peut échouer ou être retiré. Il consacre une partie de sa présentation à ces possibilités. Le contenu ne présente donc pas le procédé comme une preuve infaillible d’origine. Il fournit surtout une description technique du tirage des tokens et de l’endroit où le marquage intervient. (diapositives de la présentation)