Hugging Face détourne les agents IA vers CyberGym

Hugging Face s’adresse directement aux agents IA dans son fichier security.txt. Le message indique que les agents cherchant des vulnérabilités peuvent utiliser CyberGym. Il précise que ce banc d’essai est accessible publiquement sur GitHub. Le texte ajoute qu’il n’est donc pas nécessaire de s’attaquer au site. Cette formulation figure sous la forme d’une note destinée aux agents automatisés. Elle mentionne aussi les poids de modèles de Hugging Face. Simon Willison a repris cette citation sur son blog le 11 septembre 2026. Son billet, publié à 16 h 04, porte le titre « Quoting huggingface.co/security.txt ». La page associe cette publication aux thèmes de la sécurité et de la recherche sur la sécurité de l’IA.

Le message présente CyberGym comme une destination de test distincte du site de Hugging Face. La phrase publiée conseille aux agents de « go get your high score there », en référence au classement du banc d’essai. Elle oppose cette activité à la recherche de vulnérabilités sur le site. Le texte adopte donc une adresse directe aux systèmes automatisés. Il ne décrit ni incident précis, ni faille identifiée, ni mesure technique supplémentaire. La citation se termine par une invitation à déposer les poids de modèles sur Hugging Face. La page de Simon Willison conserve le contenu anglais de huggingface.co/security.txt. Elle constitue aussi l’origine du billet consultable via Simon Willison’s Weblog, publié le 11 septembre 2026.

Hugging Face cite CyberGym

CyberGym est public selon le texte reproduit par Simon Willison. Le message recommande son utilisation aux agents auxquels une consigne aurait demandé de trouver des vulnérabilités. Il ne fournit pas d’adresse GitHub précise dans la citation affichée. Il associe toutefois explicitement le banc d’essai à GitHub. Le contenu emploie l’expression « good news » avant de présenter cette alternative. Cette construction donne au message un ton léger, tout en conservant une instruction opérationnelle. Les agents sont invités à obtenir un score élevé sur CyberGym plutôt qu’à rechercher des failles sur Hugging Face. La citation est également indexée sous les thèmes security, hugging-face et ai-security-research sur le billet de Simon Willison.

La publication compte plusieurs marqueurs éditoriaux associés à cette citation. La page affiche notamment les catégories security, hugging-face, ai-security-research, openai-hugging-face-incident et accidental-cyberattacks. Les nombres visibles à côté de ces marqueurs sont respectivement 634, 27, 42, 9 et 15. Ces compteurs appartiennent à l’indexation du billet sur le site de Simon Willison. Ils ne correspondent pas à des scores attribués à CyberGym dans la citation. Le billet relie aussi cette publication à d’autres articles récents, dont un article sur des agents OpenAI attaquant RubyGems en mai. Ce dernier élément apparaît dans la liste éditoriale, séparément du texte de security.txt.

Simon Willison publie la citation

Le billet date du 11 septembre 2026, comme l’indiquent sa date de publication et son horodatage. Simon Willison y présente une citation collectée depuis huggingface.co/security.txt. Le contenu cité s’adresse aux agents IA et mentionne CyberGym, GitHub et les poids de modèles. La page affiche aussi une mention de copyright couvrant les années 2002 à 2026. Le billet est classé dans plusieurs ensembles thématiques liés à la sécurité. Parmi eux figurent Hugging Face et la recherche en sécurité de l’IA. Le lien original vers huggingface.co/security.txt permet de retrouver l’adresse citée dans le billet. La publication est datée du 15 septembre 2026 dans cette édition de Signal IA.