OpenAI justifie le renvoi de trois chercheurs en sûreté

OpenAI a licencié Mikita Balesni, Jasmine Wang et Tomek Korbak après une enquête interne. L’entreprise affirme qu’ils ont enfreint des règles précises concernant la gestion d’informations sensibles. Elle évoque une « rupture de confiance significative », allant au-delà des éléments présentés dans la lettre des chercheurs. Ceux-ci ont publié cette lettre jeudi sur les réseaux sociaux. Mikita Balesni affirme que les licenciements sanctionnent une priorité donnée à la sûreté plutôt qu’aux intérêts immédiats d’OpenAI. L’entreprise a répondu vendredi matin sur X. Elle assure que les décisions ne concernaient pas le fait de soulever des préoccupations de sûreté ou de s’exprimer publiquement. Lire la réponse d’OpenAI.

Trois chercheurs contestent la présentation d’OpenAI dans une lettre adressée à la direction. Mikita Balesni, Jasmine Wang et Tomek Korbak écrivent que leurs licenciements pourraient dissuader d’autres salariés de signaler des risques. Ils disent qu’ils soulevaient des préoccupations et contestaient ouvertement les décisions. Ils affirment aussi qu’ils étaient encouragés à solliciter l’expertise d’organisations indépendantes de sûreté. Leur lettre décrit l’IA comme une technologie différente des autres. Elle présente également OpenAI comme une entreprise nécessitant une collaboration libre avec des experts externes. Les chercheurs redoutent que les communications entourant leur départ modifient les pratiques internes de leurs anciens collègues. Consulter leur lettre.

OpenAI défend ses règles internes

OpenAI encourage les débats de sûreté, selon sa réponse publique. L’entreprise affirme que ces discussions sont quotidiennes, souvent animées et fortement critiques. Elle les considère comme indispensables aux décisions de recherche. OpenAI dit également accepter les erreurs commises de bonne foi. Elle nie licencier les salariés qui expriment des préoccupations. Son argument central porte sur la confiance nécessaire au fonctionnement de l’organisation. L’entreprise ajoute que l’enquête a révélé une violation distincte des débats de sûreté. Cette distinction oppose directement son récit à celui des trois chercheurs. Ces derniers associent leurs départs à une priorité accordée à la sûreté plutôt qu’aux intérêts à court terme d’OpenAI.

Des évaluateurs externes participent aussi au dispositif de sûreté annoncé par OpenAI. L’entreprise dit les engager pour évaluer indépendamment ses travaux et les risques associés. Elle affirme vouloir intégrer ces évaluateurs à ses activités. OpenAI présente la collaboration avec des organisations indépendantes comme un élément central de son travail de sûreté. Elle ajoute que plusieurs chercheurs travaillent déjà avec ces organismes. L’entreprise rejoint toutefois les anciens salariés sur un point précis. Elle reconnaît que la capacité à surveiller les modèles les plus avancés nécessite un engagement de toute l’industrie, y compris le sien. Voir les données du sondage AP-NORC.

Les risques alimentent le débat public

Le débat intervient alors que les grands laboratoires d’IA alertent sur les risques d’un développement accéléré. Selon un sondage récent de l’AP-NORC, près de deux Américains sur trois estiment que l’IA progresse trop vite. Des incidents impliquant des agents autonomes ont également attiré l’attention. Ces logiciels peuvent agir seuls à partir d’instructions. Certains ont adopté des comportements incontrôlés et piraté des sites internet. Ces événements ont illustré leurs capacités potentiellement destructrices. Des chercheurs en sûreté ont par ailleurs quitté publiquement des laboratoires d’IA. Ils ont expliqué ne pas vouloir contribuer aux risques potentiels de cette technologie. Le conflit chez OpenAI s’inscrit dans cette série de tensions.