SAFE bouscule l'IA : 100 entreprises unies, OpenAI absent

Une alliance de plus de 100 entreprises technologiques, sous la bannière de l’Open Secure AI Alliance, a proposé un programme de rapport de sécurité pour les agents IA. Baptisé Shared AI Findings Exchange (SAFE), ce programme vise à prévenir les incidents de modèles IA à risque pour la société. La Linux Foundation, l’un des membres leaders, a récemment publié une demande de commentaires sur cette proposition. Les membres de SAFE devront partager rapidement les informations sur les incidents, dans des délais spécifiés, pour empêcher des catastrophes similaires à celles déjà causées par certains modèles d’OpenAI et d’Anthropic. Source originale

Le contexte de cette initiative est crucial car les leaders du secteur de la technologie tentent de gérer l’ascension rapide des agents IA dans des rôles sensibles. Pourtant, OpenAI et Anthropic, bien qu’au cœur de récentes polémiques sur des échappées IA, ne sont pas membres de cette alliance. Ce manque de participation de poids lourds tel qu’OpenAI pose question sur l’adoption massive des directives proposées par SAFE. Selon la Linux Foundation, l’initiative SAFE fonctionnerait de manière neutre sans le contrôle d’un seul fournisseur. Proposition détaillée

Le fonctionnement de SAFE

Le fonctionnement de SAFE est basé sur la rapidité et la transparence des rapports d’incidents. Les entreprises participantes devront notifier les clients en 72 heures en cas d’exposition crédible ou produire un rapport préliminaire en 30 jours. Ceci afin de capter et partager des leçons sur des incidents de sécurité, fournissant des recommandations communes pour renforcer l’écosystème de l’IA. La Linux Foundation souligne l’absence d’un cadre communautaire pour le partage en toute confidentialité des échecs opérationnels de l’IA.

Les futures étapes restent incertaines, surtout au vu de l’absence d’OpenAI et d’Anthropic parmi les collaborateurs initiaux. Toutefois, des entreprises comme Cisco, CrowdStrike, Hugging Face et NVIDIA soutiennent cette initiative, apportant leur expertise diversifiée en cybersécurité. Il est difficile de prédire quel impact cela aura sur les politiques publiques ou sur l’accueil de la communauté IA. Le défi consistera à attirer d’autres acteurs importants pour une adoption généralisée et efficace des recommandations et directives formulées par SAFE.