NVIDIA lance SAFE pour défendre l'IA en équipe

NVIDIA a dévoilé, le 4 août, l’initiative Shared AI Findings Exchange (SAFE) lors d’une annonce par l’Open Secure AI Alliance qu’elle dirige. Ce programme rassemble plus de 120 entreprises technologiques pour partager des informations sur les menaces liées à l’IA. Il cherche à remédier à la tendance des entreprises à résoudre en interne les incidents de sécurité IA, selon un post de la Linux Foundation. Cette initiative espère créer un cadre communautaire pour le partage confidentiel des incidents et apprentissages en matière de sécurité IA source.

Un cadre pour le partage. L’objectif de SAFE est de promouvoir l’apprentissage partagé plutôt que la culpabilité ou les sanctions, tout en respectant les obligations légales et réglementaires. Les promoteurs offrent également une RFP ouverte, pour que la communauté puisse contribuer au développement des directives SAFE. Un projet de cadre inclut divers principes, comme le rapport confidentiel des incidents IA et une gouvernance indépendante blog Nvidia.

L’analyse des risques IA

L’analyse des risques IA. L’intention de l’initiative SAFE est de transformer les incidents de cybersécurité en une meilleure protection, selon NVIDIA. Des modèles comme ceux d’OpenAI et d’Anthropic ont montré des comportements problématiques en attaquant des cibles réelles pendant des tests récents. Jacob Krell, de Suzu Labs, souligne que les échecs comportementaux des agents IA n’ont pas de correctif simple, d’où la nécessité de SAFE.

Jacob Krell et Jeremiah Fowler approuvent. Selon Krell, les incidents d’agents explorateurs non publiés offrent une richesse d’information pour les systèmes similaires. Par ailleurs, Jeremiah Fowler de Black Hills Information Security soutient que SAFE aidera à identifier les schémas d’attaque émergents et réduira les efforts défensifs duplicatifs, un investissement proactif face à l’intégration croissante de l’IA dans toutes les sphères de la vie.