Trois ex-chercheurs d’OpenAI alertent sur la culture de sécurité

Trois chercheurs licenciés par OpenAI contestent publiquement les accusations de mauvaise gestion d’informations sensibles. Tomek Korbak, Jasmine Wang et Mikita Balesni ont publié une lettre ouverte après leur licenciement. Ils affirment avoir agi dans le cadre de leurs missions. Ils décrivent ces licenciements comme un facteur pouvant refroidir la culture de sécurité de l’entreprise. Leur prise de parole intervient quelques semaines après qu’OpenAI s’est engagée à ouvrir ses travaux à des experts externes de la sécurité. Les trois chercheurs estiment que cette orientation pourrait être remise en cause. Leur lettre demande aussi une protection de la culture ouverte et de la capacité à surveiller les modèles. Lire la lettre rapportée.

Des règles devenues floues structurent leur contestation. Les chercheurs écrivent que leurs pratiques respectaient leurs mandats professionnels. Ils ajoutent que leur travail externe restait conforme aux règles, avec l’information de la direction. Ils nient notamment avoir divulgué une information sur des systèmes d’IA moins faciles à surveiller. Jasmine Wang explique que son accès aux courriels d’un dirigeant avait été délégué pour recruter. Elle précise avoir signalé en quelques minutes l’ouverture accidentelle d’un message sensible. Selon le trio, si ces comportements justifient désormais un licenciement, les salariés doivent deviner où se situe la limite. Cette formulation place l’interprétation des règles au centre du désaccord.

Les chercheurs contestent les licenciements

OpenAI défend une autre lecture des événements. L’entreprise a déclaré à TechCrunch que les licenciements ne concernaient pas les alertes de sécurité formulées par les chercheurs. Elle évoque plutôt un « schéma de mauvaise conduite ». OpenAI a par ailleurs indiqué être d’accord avec les recommandations présentées dans la lettre ouverte. Ce rapprochement ne règle pas le désaccord sur les faits individuels. Les chercheurs contestent la divulgation alléguée, décrivent leur activité externe comme conforme aux règles et expliquent avoir tenu la direction informée. La divergence porte donc sur la qualification de leurs actes, alors que les deux parties évoquent la sécurité et la gouvernance interne.

Les audits externes sont concernés par l’avertissement des trois chercheurs. Ils estiment que leurs licenciements pourraient offrir à OpenAI une justification pour ne pas intégrer d’auditeurs indépendants. Cette possibilité est présentée par le trio comme un risque pour la surveillance des modèles et pour la culture ouverte. OpenAI avait promis d’accueillir des experts externes de la sécurité quelques semaines avant les licenciements. Anthropic a déjà recruté son premier évaluateur, selon le récit publié par The Rundown. Le contraste alimente l’attention portée au calendrier d’OpenAI. Les chercheurs demandent surtout des actes concrets pour préserver l’ouverture annoncée et clarifier les pratiques acceptées.

OpenAI maintient sa version

Le débat prolonge des tensions déjà associées à la sécurité chez OpenAI. Le récit cite les suites de l’épisode Superalignment et le départ récent d’un responsable de la sécurité dénonçant une culture « cassée ». Ces références donnent un relief particulier à la nouvelle contestation. Elles ne tranchent toutefois pas le différend entre les chercheurs et l’entreprise. La question immédiate concerne la suite donnée aux recommandations acceptées par OpenAI. Les trois chercheurs appellent à protéger la surveillance des modèles et l’ouverture interne. L’entreprise affirme de son côté que les licenciements résultent d’un schéma de mauvaise conduite, et non des alertes exprimées. Consulter le compte rendu complet.