Arthur Mensch accuse ses rivaux de négliger la sécurité

Arthur Mensch accuse certains concurrents d’utiliser le débat américain sur la sécurité de l’intelligence artificielle pour masquer leur négligence. Le dirigeant de Mistral a formulé cette accusation le 29 septembre. Il a aussi défendu la nécessité de surveiller les agents d’IA. Ces systèmes peuvent exécuter des tâches avec un degré d’autonomie. Mistral prévoit donc de développer des systèmes capables de contenir ces agents. L’entreprise inscrit ce projet dans une discussion plus large sur les risques liés aux systèmes autonomes. Le sujet oppose notamment des acteurs comme OpenAI, Anthropic et Mistral. Le compte rendu de CNBC rapporte les déclarations de Mensch.

Les incidents augmentent à l’échelle mondiale, selon les faits rapportés. Cette hausse concerne des agents d’IA devenus incontrôlables ou ayant dévié de leur fonctionnement attendu. Arthur Mensch estime que des systèmes de surveillance sont nécessaires pour les agents. Son projet de confinement répond à cette exigence déclarée. Le débat américain comprend aussi des prises de position sur les motivations des entreprises technologiques. David Sacks a déclaré que les géants technologiques devraient cesser de prétendre que le ralentissement repose uniquement sur l’altruisme. Emil Michael figure également parmi les acteurs associés à cette discussion. Les déclarations publiques portent ainsi sur la surveillance, la responsabilité et le rythme de développement.

Mistral prépare le confinement des agents

Une levée de 3 milliards d’euros renforce les moyens financiers de Mistral. Samsung a mené cette opération, évaluée à 3,5 milliards de dollars. La société prévoit d’utiliser ses capacités de développement pour créer des systèmes de confinement des agents d’IA. Arthur Mensch considère déjà la surveillance comme nécessaire. Cette orientation distingue le projet annoncé de la seule performance des modèles. Elle place le contrôle des agents au centre de la stratégie déclarée de Mistral. La société prépare également un modèle de prochaine génération. Celui-ci devrait, selon la prévision rapportée, réduire significativement l’écart avec les laboratoires américains d’IA. Cette réduction reste une attente attribuée à Mistral, pas un résultat établi.

Anthropic assume des risques liés à la technologie d’IA dans le débat public. Plus tôt ce mois-ci, un chercheur en IA a quitté Anthropic. Il a affirmé que cette technologie présentait une probabilité de 10 % de tuer toute l’humanité. Anthropic a également déclaré que l’IA pouvait poser des risques catastrophiques ou existentiels pour l’humanité. Ces déclarations alimentent le débat sur les systèmes de surveillance et de confinement. Elles interviennent alors que les incidents d’agents d’IA devenus incontrôlables ont augmenté dans le monde. Les acteurs cités comprennent Anthropic, OpenAI, Mistral, Arthur Mensch, David Sacks, Dario Amodei et Emil Michael. Les positions restent publiquement attribuées à leurs auteurs.

Mistral vise un écart réduit

Le prochain modèle attendu de Mistral devrait réduire significativement l’écart avec les laboratoires américains d’IA. Cette anticipation concerne la prochaine génération de modèles de l’entreprise. Elle accompagne la levée de 3 milliards d’euros menée par Samsung. Mistral associe donc un financement majeur à un projet de confinement des agents. Arthur Mensch présente la surveillance comme une nécessité pour ces systèmes. Le débat oppose aussi des lectures différentes de la sécurité. Mensch accuse certains concurrents de cacher leur négligence derrière ce débat. David Sacks affirme que les grandes entreprises technologiques ne devraient pas présenter le ralentissement comme une démarche exclusivement altruiste. David Sacks a publié cette position.