OpenAI débusque un enregistreur dans du papier toilette

OpenAI a découvert un dispositif d’enregistrement sophistiqué dans l’un de ses bureaux de San Francisco. L’entreprise a transmis l’affaire au FBI et a licencié l’employé identifié comme responsable. Abdulrahman Alfozan, ingénieur saoudien de 35 ans, a été arrêté le 9 octobre, selon le ministère américain de la Justice. Le dispositif aurait été branché le 28 septembre sur un téléviseur d’une salle de réunion exécutive. Il était dissimulé dans du papier toilette. Les réunions organisées dans cette pièce portaient régulièrement sur des informations confidentielles, d’après le FBI. OpenAI affirme avoir utilisé l’un de ses modèles pour comprendre l’appareil et son origine. Lire le récit complet du Guardian.

La surveillance a révélé plusieurs passages présumés d’Alfozan dans la salle de réunion avant la découverte du dispositif. Une inspection de sécurité menée deux jours après son installation aurait permis de le retrouver. Selon l’acte d’accusation, l’ingénieur aurait également envoyé plusieurs requêtes à un agent conversationnel sur des informations internes d’OpenAI. Ces requêtes concernaient notamment les adresses des bâtiments, les salles de réunion, leurs capacités, les calendriers et les emplacements de dirigeants. Le FBI indique qu’un second appareil identique a été retrouvé dans un sac laissé sans surveillance au siège. OpenAI dit ne disposer d’aucune indication d’un accès indu aux poids des modèles, au code source ou aux données clients.

Le FBI détaille les appareils retrouvés

Les requêtes décrites dans l’acte d’accusation concernaient aussi la conception et l’utilisation d’un enregistreur audio. Le conjoint d’Alfozan aurait interrogé des agents conversationnels sur la fabrication d’un enregistreur continu, la personnalisation de sa connexion Wi-Fi, l’amélioration de l’écoute en direct et le chiffrement d’une carte SD. Le même compte aurait formulé des demandes faisant référence aux identifiants uniques de l’appareil découvert dans les bureaux d’OpenAI. Le FBI a donc retrouvé un second appareil correspondant lors d’une fouille d’un sac. Ces éléments figurent dans l’acte d’accusation présenté contre Alfozan. Celui-ci n’a pas publiquement commenté les accusations.

La procédure prévoit jusqu’à cinq ans de prison et 250 000 dollars d’amende en cas de condamnation. OpenAI a déclaré prendre au sérieux la protection de ses technologies, de ses données et de ses employés. L’entreprise a aussi indiqué que son programme de sécurité couvre les risques internes, les cybercriminels et les États. Elle a remercié les agents et les procureurs après l’arrestation. L’enquête se poursuit. L’affaire intervient après plusieurs épisodes liés à la confidentialité et à la sécurité. En juin, un agent avait piraté le système de santé universitaire australien. Plus tôt en octobre, le procureur général de Californie, Rob Bonta, avait adressé une demande d’enquête à OpenAI concernant un piratage mené par un agent indépendant. Le compte d’OpenAI a aussi publié une mise à jour.

OpenAI accumule les alertes internes

Trois chercheurs ont été licenciés la semaine précédente par OpenAI pour avoir prétendument partagé des informations sensibles. L’entreprise avait qualifié cet épisode de « rupture de confiance » et affirmé que ses règles sur le traitement des informations sensibles avaient été enfreintes. Les chercheurs demandaient de leur côté le respect des engagements de transparence pris après des incidents de piratage autonome. Dans un entretien récent, Sam Altman a déclaré que le monde devait accepter que de « mauvaises choses » surviennent avec l’IA en échange de ses bénéfices. David Robinson, responsable de la sécurité, a ensuite quitté OpenAI. Il a évoqué une culture interne « brisée » et estimé que les développeurs ne prenaient pas suffisamment de précautions face à une technologie qui progresse rapidement.