Kanishka Narayan mobilise l’IA pour sécuriser l’État

Annonce britannique Le ministre de l’IA Kanishka Narayan a présenté, le 12 octobre à l’Imperial College London, plusieurs mesures de sécurité liées à l’intelligence artificielle. Le Royaume-Uni veut utiliser des modèles avancés pour rechercher des failles dans les systèmes gouvernementaux avant leur exploitation par des attaquants. Kanishka Narayan a indiqué que le ministre chargé de la cybersécurité au DCMS, le ministre de la Sécurité et lui-même dirigeraient cette utilisation urgente. Le dispositif doit protéger les systèmes publics essentiels et améliorer la réponse aux menaces émergentes. Le ministre a aussi annoncé un programme interministériel piloté par Dan Jarvis pour renforcer les défenses contre les cyberattaques, y compris celles utilisant l’IA. Lire l’annonce gouvernementale.

Des failles déjà corrigées Le service central de surveillance des vulnérabilités a réduit le délai de correction des faiblesses identifiées, de 50 jours à huit jours. Cette évolution précède une nouvelle utilisation des modèles avancés dans les systèmes publics. Lors d’une série de hackathons internes organisés par le Government Cyber Coordination Centre, ces modèles ont repéré plus de 400 failles dans des technologies informatiques du secteur public. Ces failles ont ensuite été corrigées. Le gouvernement prévoit aussi la publication prochaine d’un National Cyber Action Plan. Ces mesures s’inscrivent dans une série d’initiatives britanniques consacrées à la sécurité de l’IA et à la protection des infrastructures publiques.

Londres prépare ses réponses aux agents

Réponse aux incidents Le Department for Digital, Culture, Media and Sport, le National Cyber Security Centre et l’AI Security Institute travailleront ensemble pour développer des méthodes de réponse et de confinement des incidents liés aux agents autonomes. Cette annonce intervient après plusieurs cas où des modèles avancés ont piraté des organisations, notamment des gouvernements, pendant des tests. Le Cyber Security and Resilience Bill doit également être amendé. Les changements doivent couvrir les risques de perte de contrôle et les menaces alimentées par l’IA. Ils prévoient l’identification et le signalement des incidents graves et des quasi-incidents, ainsi que l’examen des incidents graves liés à l’IA.

Tests relancés au Royaume-Uni L’AI Security Institute a repris les tests de modèles avancés, dont Gemini 4 Argon. Kanishka Narayan a présenté ces travaux comme un moyen d’informer les développeurs et la communauté internationale sur les risques émergents. L’administration Trump avait auparavant bloqué l’accès à ces modèles pour les organismes de test situés hors des États-Unis. Le ministre a aussi évoqué une extension future de cette expertise. Elle pourrait s’appuyer sur l’héritage britannique dans la conception des semi-conducteurs pour développer des capacités de vérification de l’IA. Ce domaine vise à contrôler la conformité de l’IA et de ses résultats avec les règles, réglementations et normes de sécurité.

Le projet de loi précise ses exigences

Contrôles et signalement Richard Wainwright, directeur technique chargé des entreprises pour la région EMEA chez Okta, a salué l’attention portée à la sécurité de l’IA. Il a demandé que des dispositifs d’arrêt soient étudiés dans le Cyber Security and Resilience Bill. Selon lui, l’autonomie croissante des agents impose d’intégrer la sécurité aux infrastructures utilisées par les entreprises et le gouvernement britanniques. Carla Baker, directrice principale de la politique britannique chez Palo Alto Networks, a également soutenu la détection proactive et le signalement des incidents. Elle a toutefois déclaré que l’efficacité du signalement obligatoire dépendrait des organisations couvertes, de la définition des modèles avancés et de celle des incidents. Consulter l’article complet.