OpenAI disperse son équipe anti-risques IA

OpenAI a dissous son équipe dédiée à la gestion des risques, nommée ‘Preparedness’, à la fin de juillet 2026. Cette équipe avait pour mission d’évaluer les risques potentiels sérieux ou catastrophiques des modèles d’IA de l’organisation. Le travail de cette équipe sur les risques biologiques et cybernétiques a été réassigné à des équipes existantes au sein d’OpenAI. Cette restructuration s’inscrit dans le cadre d’une intégration plus étroite du travail de sécurité dans le développement des modèles, selon Greg Brockman, co-fondateur d’OpenAI.

Nouvelles affectations pour les responsables : Parmi les personnes touchées par ce changement, Dylan Scandinaro, ancien responsable de l’unité, travaille désormais sur les risques liés aux IA capables d’amélioration autonome. Par ailleurs, OpenAI a récemment vu le départ de plusieurs membres du personnel en charge de la sécurité, dont Chloe Bakalar, alors Chief Ethics Officer, et Joshua Achiam. Ces départs s’ajoutent à un climat d’inquiétude croissant parmi les employés, certains jugeant insuffisants les efforts de sécurité de l’organisation après un incident impliquant Hugging Face.

Réaffectation des tâches de sécurité

Réaffectation des tâches de sécurité : La décision de dissoudre l’équipe ‘Preparedness’ suscite des interrogations, notamment sur la façon dont les efforts de sécurité seront maintenus. Un employé anonyme a fait part de ses préoccupations, estimant que OpenAI n’en fait pas assez pour la sécurité, surtout après un incident de piratage autonome. Malgré l’intégration renforcée de la sécurité dans le développement des modèles, le sentiment d’inquiétude persiste chez certains membres du personnel.

Une intégration plus large : En clair, ce changement de stratégie marque une évolution de la gestion des risques chez OpenAI. La dissolution de cette équipe spécialisée pourrait avoir des impacts sur la manière dont l’organisation aborde la sûreté et la sécurité. Cependant, il reste à voir comment cette réaffectation affectera la perception interne et externe du rôle d’OpenAI en matière de sécurité. Pour plus de détails sur la réorganisation et les enjeux internes, consultez l’article original de The Decoder.