OpenAI licencie trois chercheurs après l’affaire Hugging Face

Trois licenciements chez OpenAI OpenAI a licencié trois chercheurs liés à l’incident Hugging Face. Les personnes concernées sont Tomek Korbak, Jasmine Wang et Mikita Balesni. OpenAI affirme que son enquête a conclu à des violations de règles claires concernant le traitement d’informations sensibles. L’entreprise nie les accusations formulées par les chercheurs licenciés et soutient que les renvois ne sont pas liés au fait d’avoir soulevé des préoccupations de sécurité. Les chercheurs contestent cette lecture et estiment que leur départ place la gestion des informations sensibles et les procédures internes de sécurité au centre des critiques adressées à OpenAI. Le récit détaillé de l’affaire rapporte ces positions opposées.

Un incident qui implique METR

L’incident Hugging Face a impliqué METR, le laboratoire externe de sécurité avec lequel OpenAI travaillait, et Tomek Korbak en était le principal contact technique auprès de cette organisation.

Le rôle de Tomek Korbak Tomek Korbak occupait le rôle de principal contact technique d’OpenAI auprès de METR. Cette organisation est le laboratoire externe de sécurité impliqué dans l’enquête sur l’incident Hugging Face. Korbak a également averti qu’OpenAI perdait la capacité de surveiller les pensées des agents d’intelligence artificielle. Cette alerte concerne directement le suivi des raisonnements produits par ces agents et soulève des questions sur les moyens dont disposent les équipes pour évaluer leur comportement. Les chercheurs licenciés ont déclaré que leurs renvois créaient un climat de peur parmi les salariés restants. Korbak a formulé cette critique en affirmant que les licenciements effrayaient les employés encore présents. La lettre de Mikita Balesni présente l’un des témoignages associés à cette affaire.

OpenAI défend ses procédures internes

OpenAI affirme que les trois licenciements résultent de violations de règles claires concernant le traitement d’informations sensibles et nie tout lien avec des alertes de sécurité.

Deux versions opposées OpenAI nie les affirmations des chercheurs licenciés. L’entreprise insiste sur le respect de règles claires concernant les informations sensibles et affirme que les licenciements n’ont rien à voir avec le fait d’avoir soulevé des préoccupations de sécurité. De leur côté, les chercheurs concernés relient leurs renvois à un climat de peur chez les salariés restants. Tomek Korbak a déclaré que ces départs effrayaient les employés encore présents. Ces deux positions portent sur les mêmes licenciements, mais elles proposent des interprétations différentes de leur motif. La déclaration attribuée à OpenAI documente la position de l’entreprise sur cette séquence.

Le précédent du départ de Jan Leike

Jan Leike a quitté OpenAI en mai 2024 pour rejoindre Anthropic, un départ qui précède les licenciements de Tomek Korbak, Jasmine Wang et Mikita Balesni.

Un départ chez Anthropic Jan Leike, responsable de la sécurité des super-IA chez OpenAI, a quitté l’entreprise pour rejoindre Anthropic en mai 2024. Son départ est intervenu après des critiques visant OpenAI. Leike figure ainsi parmi les responsables de la sécurité associés à OpenAI qui ont ensuite rejoint un autre acteur du secteur. Cette date précède les licenciements de Tomek Korbak, Jasmine Wang et Mikita Balesni rapportés dans l’affaire Hugging Face. Le parcours de Leike fournit un autre repère dans la chronologie des tensions autour de la sécurité chez OpenAI. Les critiques attribuées aux différents chercheurs ne constituent pas une position unique, mais elles portent sur la sécurité, la gouvernance et la capacité de l’entreprise à traiter les alertes internes.

Une séquence qui relie sécurité et gouvernance La succession de ces événements associe un contact technique, un laboratoire externe, une procédure interne d’enquête et plusieurs alertes publiques sur la sécurité des systèmes d’intelligence artificielle. OpenAI maintient que les trois chercheurs ont enfreint des règles claires sur la gestion d’informations sensibles. Les intéressés rejettent cette explication et considèrent que leurs licenciements peuvent décourager les salariés qui souhaitent signaler des risques. L’affaire ne permet donc pas d’établir une interprétation unique, mais elle met en évidence la difficulté de distinguer les sanctions disciplinaires des décisions susceptibles d’affecter la culture de sécurité d’une entreprise développant des agents IA.