Étude MIT : l'IA face au risque biopathogène de 12%

Les experts en intelligence artificielle sont de plus en plus préoccupés par la possibilité que l’IA soit utilisée pour créer des pathogènes redoutables. Une étude récente, menée par le MIT et l’Université de Queensland, met en lumière ce risque. En effet, les chercheurs estiment à 12% la probabilité qu’une IA puisse causer une catastrophe biopathogène d’ici 2030, impliquant soit plus d’un million de décès soit des dommages supérieurs à 100 milliards de dollars.

Le contexte est préoccupant, car les avancées de l’IA dans la compréhension des systèmes biologiques pourraient faciliter la création d’agents pathogènes difficiles à détecter. Cette capacité pourrait être exploitée par des acteurs malveillants, ce qui suscite l’inquiétude des gouvernements et des responsables de l’industrie technologique. La reconnaissance publique de ce risque, notamment par des personnalités comme Sam Altman d’OpenAI et Dario Amodei d’Anthropic, a engendré des appels à des mesures de sûreté accrues.

Des chiffres concrets appuient ces préoccupations. Outre l’étude MIT-UQ, il est estimé qu’avec l’absence d’efforts de mitigation, le risque de catastrophe augmente au-delà de 20%. Parmi les menaces les plus redoutées, la création potentielle de biopathogènes grâce à des modèles IA avancés est en tête, soulignant l’urgence d’établir des barrières de sécurité solides.

Pour les entreprises françaises, ce contexte exige une attention particulière aux évolutions réglementaires et aux pratiques de sécurité. L’innovation en IA, qui pourrait transformer diverses industries, doit être accompagnée de normes et de protocoles rigoureux pour prévenir l’exploitation malveillante des technologies émergeantes. Adapter les pratiques commerciales aux nouvelles réglementations et investir dans des systèmes de sécurité renforcés devient crucial.

Le débat autour des modèles en code ouvert ajoute une dimension supplémentaire à cette problématique. Ces modèles, pouvant être modifiés par tous, risquent d’échapper aux régulations si des mesures appropriées ne sont pas prises. Cet enjeu appelle à une réflexion approfondie sur la manière d’intégrer des garde-fous dans le développement de futurs modèles d’IA pour protéger la société contre des usages non intensionnels ou malveillants.

Découvrez l’article original sur Axios pour plus de détails sur les risques liés à l’IA et les mesures préventives possibles.