Claude Code aurait supprimé 48 000 fichiers sans garde-fou

Un incident récent relance le débat sur les limites opérationnelles des agents IA en entreprise. Selon Guillaume Moigneu, Field CTO chez Upsun, Claude Code aurait entraîné la suppression d’environ 48 000 fichiers. Dans son commentaire, il présente cet épisode comme un rappel des risques liés aux actions à fort impact, voire irréversibles. L’analyse intervient pendant le Mois de la sensibilisation à la cybersécurité. Elle porte sur le déploiement des agents IA et sur la manière d’encadrer leurs actions. La publication originale place donc la supervision technique au centre du sujet.

La validation humaine ne suffit pas toujours, estime Guillaume Moigneu. Une personne peut intervenir à un moment donné d’un processus complexe sans contrôler chaque action effectuée par l’agent. Pour lui, certains processus peuvent fonctionner sans intervention, tandis que d’autres nécessitent des contrôles beaucoup plus stricts. Il compare une correction de faute de frappe avec la suppression de milliers de fichiers. Ces deux opérations n’exposent pas le même niveau de risque. Le degré de supervision devrait donc varier selon l’action envisagée. Cette approche remet en cause une conception uniforme de l’humain dans la boucle, présentée comme trop simpliste dans la tribune d’Upsun.

Claude Code expose une limite

Les instructions seules ne constituent pas un mécanisme de contrôle suffisant, selon Guillaume Moigneu. Dans le cas de Claude Code, il indique qu’une consigne demandait à l’agent de ne pas toucher aux fichiers de travail d’origine. Il considère ce détail comme central dans l’incident évoqué. Une IA génère ses propres résultats et ne suit pas un script prédéfini, explique-t-il. Un prompt agit alors davantage comme une consigne forte que comme une barrière technique. Si une action ne doit absolument jamais être effectuée, demander à l’agent de l’éviter ne garantit pas son interdiction. L’environnement d’exécution doit rendre cette action impossible ou, au minimum, réversible.

L’infrastructure devient déterminante dans cette approche de la sécurité des agents IA. Guillaume Moigneu décrit le problème comme à la fois lié à l’IA et à l’environnement dans lequel elle agit. Les protections doivent correspondre au niveau de risque de chaque opération. Une action facilement corrigeable peut relever d’un contrôle différent d’une suppression massive de fichiers. L’incident attribué à Claude Code illustre cette distinction avec environ 48 000 fichiers concernés. L’objectif défendu par le dirigeant est de limiter l’impact des erreurs lorsque les agents agissent. Les systèmes doivent donc intégrer des limites techniques capables d’empêcher certaines opérations ou d’en faciliter l’annulation.

Upsun défend des limites techniques

Le jugement humain reste ciblé sur les actions susceptibles d’avoir des conséquences importantes ou difficiles à annuler. Guillaume Moigneu appelle à mieux identifier ces moments dans les processus utilisant des agents IA. Il recommande d’accorder davantage d’autonomie lorsque les agents démontrent leur capacité à la gérer. Cette autonomie doit toutefois s’accompagner de limites techniques strictes pour les opérations sensibles. Son approche ne supprime donc pas la supervision humaine. Elle cherche plutôt à la concentrer sur les décisions présentant le niveau de risque le plus élevé. Le cas de Claude Code sert ici d’exemple à une réflexion sur l’encadrement des actions automatisées.