L'IA va démocratiser les armes biologiques

• Les rivaux les plus féroces de la Silicon Valley viennent de signer le même document. Sam Altman, Dario Amodei, Demis Hassabis et Mustafa Suleyman, quatre PDG qui se battent quotidiennement pour les mêmes talents, le même capital et les mêmes clients (comme dirait Tony, ils veulent le monde tchiko) ont cosigné une lettre ouverte au Congrès américain pour prévenir d’un danger cataclysmique : la “libéralisation” des armes biologiques.
• Mais quel rapport avec eux ? La puissance des modèles IA est telle qu’ils viennent d’abaisser le niveau d’expertise nécessaire pour concevoir des pathogènes dangereux à partir de matériel génétique synthétique commandé en ligne. Ce qui nécessitait autrefois des années de formation spécialisée devient accessible à quiconque sait prompter correctement.
• Il serait déjà possible d’en réaliser : les chercheurs de Microsoft ont démontré que les outils IA de conception de protéines génèrent déjà des séquences potentiellement dangereuses qui passent à travers les filtres de contrôle existants. D’où leur demande au Congrès : afin de rendre obligatoire la vérification systématique de chaque commande d’ADN et d’ARN synthétiques contre des bases de données de séquences à risque. Un projet de loi bipartisan existe déjà au Sénat, mais le calendrier législatif américain est ce qu’il est. Long…
• Encore de l’esbroufe ? On commence à avoir l’habitude de leurs grandes annonces quand ils veulent clôturer une levée de fonds en agitant une nouvelle catastrophe, mais là les armes biologiques c’est une autre dimension. Cette révolution technologique est complètement lunaire. Et parfois je comprends la position de Shaïman de la chaîne Le Futurologue qui milite pour mettre en pause l’IA, le temps de convenir d’une charte mondiale d’emploi de la techno.

Annonce importante