Anthropic présente FlashProve, la preuve d’identité d’une IA

Anthropic développe FlashProve. L’entreprise travaille sur un système à code ouvert destiné à vérifier le modèle d’IA ayant produit une réponse donnée. FlashProve fournit une preuve cryptographique associant une sortie à un modèle précis. Cette approche vise à établir l’identité du modèle utilisé lors de la génération. Les chercheurs ont publié une présentation de leur recherche consacrée à cette méthode. Le projet s’inscrit dans un travail de recherche présenté comme une avancée intermédiaire. Les chercheurs indiquent que cette publication ne constitue pas un programme de recherche achevé. Ils souhaitent que d’autres équipes examinent le travail, le reprennent et l’améliorent.

Le système vérifie les sorties. FlashProve est conçu pour empêcher une entreprise d’IA de remplacer secrètement un modèle par une version moins coûteuse. Il vise aussi à empêcher une entreprise d’IA de gonfler ses résultats de performance. Pour permettre la correspondance, chaque laboratoire d’IA doit publier une empreinte pour chaque modèle distribué. Cette empreinte sert à la mise en correspondance et à la vérification des sorties. Les empreintes publiées ne révèlent pas les paramètres internes des modèles. Le fonctionnement décrit repose donc sur une preuve cryptographique, une sortie donnée et une empreinte associée au modèle concerné.

FlashProve associe sorties et empreintes

Les chercheurs publient du code. Anthropic a rendu publique une spécification technique détaillée de FlashProve. Les chercheurs ont également publié du code fonctionnel pour certaines parties du système. Ces éléments sont disponibles sous une licence de code ouvert sur GitHub, dans le dépôt Anthropic/FlashProve. La publication permet d’examiner la conception et les composants déjà fonctionnels du dispositif. Elle présente aussi le projet comme un travail que d’autres peuvent reprendre et améliorer. Cette invitation vient directement des chercheurs, qui déclarent partager leur travail pour qu’il soit étudié et perfectionné par d’autres équipes techniques.

La protection porte sur l’identité. FlashProve ne cherche pas seulement à relier une réponse à un service d’IA. Le système fournit une preuve cryptographique indiquant qu’une sortie provient d’un modèle spécifique. Les laboratoires doivent publier l’empreinte correspondante pour permettre cette vérification. Ces empreintes ne divulguent pas les poids des modèles. Le dispositif est également conçu pour détecter le remplacement secret d’un modèle par un modèle moins cher. Il vise enfin l’inflation des résultats de performance. Les usages décrits concernent donc l’authentification de la provenance d’une sortie et la vérification de l’identité du modèle déclaré.

Anthropic partage une spécification technique

Le projet reste présenté comme intermédiaire. Les chercheurs qualifient leur publication d’avancée intermédiaire plutôt que de programme de recherche achevé. Ils demandent explicitement à d’autres équipes d’examiner ce qui a été réalisé, de le reprendre et de l’améliorer. La spécification technique et le code fonctionnel publiés sur GitHub donnent accès à certaines parties du système. FlashProve repose sur des empreintes publiées par les laboratoires et sur des preuves cryptographiques associées aux sorties. Les empreintes ne révèlent pas les poids des modèles. Anthropic met ainsi en circulation une méthode et des composants vérifiables, tout en décrivant la recherche comme un travail non finalisé.