Une clé METR exposée engloutit 600 000 dollars de crédits

Une clé exposée METR a révélé le 31 août le vol d’une clé API utilisée pendant trois semaines. L’organisation de recherche en sécurité de l’IA estime que cette utilisation représentait environ 600 000 dollars de crédits de modèles. Ces crédits avaient été fournis gratuitement par un développeur de modèles non nommé. Le montant correspond donc à leur valeur commerciale, et non à une perte financière directe pour METR. L’incident a commencé en mars, lorsqu’un chercheur a lancé des agents sur une instance Amazon EC2 personnelle. Cette instance était accessible publiquement derrière une authentification Google. Une application créée rapidement contenait la clé du compte de modèles publics de METR.

Une authentification désactivée Une faille dite fail-open a désactivé silencieusement l’authentification pendant plusieurs jours. METR soupçonne que l’attaquant a trouvé l’instance en exploitant des listes de transparence des certificats. Ces listes contenaient des sites récemment enregistrés avec des termes liés aux modèles de langage et aux agents. L’attaquant a ensuite demandé à un agent de révéler la clé du fournisseur de modèles. Il a aussi ajouté une clé SSH afin de conserver un accès persistant. Les identifiants volés ont servi à consommer d’importants volumes de crédits pendant trois semaines. METR indique que cette activité était difficile à distinguer de ses évaluations légitimes, qui génèrent habituellement beaucoup de trafic.

METR révoque les accès compromis

Des mesures immédiates METR a révoqué l’accès du chercheur concerné et renouvelé les identifiants. L’organisation a également effacé l’ordinateur portable utilisé dans l’incident. Elle a alerté le développeur de modèles qui avait fourni les crédits gratuitement. METR a ensuite ajouté des alertes de dépense aux clés lorsque cette fonction était disponible. L’organisation précise qu’elle ne pouvait pas plafonner les dépenses associées aux clés bénéficiant de crédits gratuits. Elle indique aussi n’avoir trouvé aucun élément montrant que des informations sensibles avaient été consultées. Cette conclusion concerne l’incident de la clé API et une seconde attaque menée en mai contre son infrastructure publique.

Une seconde attaque En mai, des attaquants ont sondé l’infrastructure publique de METR, selon l’organisation. Ils ont utilisé des agents pour automatiser la recherche de vulnérabilités. Les opérations comprenaient du bourrage d’identifiants, des tentatives d’obtention de jetons OAuth, le balayage de nouveaux services et des essais d’hameçonnage visant des employés. METR indique que les attaquants semblaient motivés financièrement et pouvaient rechercher un accès à des modèles avancés. Son lecteur public de transcriptions exposait aussi involontairement un mécanisme de requêtes SQL en lecture seule. Une faille pouvait donner accès à des données d’évaluation non publiées. Un chercheur indépendant a signalé le problème, puis METR a désactivé l’interface et versé une prime.

METR sépare ses applications publiques

Une séparation renforcée METR affirme que les attaquants ont sondé le point d’accès SQL sans sembler découvrir ni exploiter la faille. La base de données contenait toutefois accidentellement des données sensibles de modèles. L’organisation déclare n’avoir trouvé aucun élément montrant un accès à des informations sensibles dans les deux incidents. Elle fait désormais fonctionner ses applications publiques dans un environnement séparé de son infrastructure interne. METR a décrit ses mesures de sécurité générales comme exactes au 30 juillet. Le récit complet de l’incident est publié dans sa mise à jour de sécurité. Le compte rendu d’Infosecurity Magazine détaille également l’usage de la clé et les attaques de mai.