Seth Kugler révèle un clonage IA fondé sur des secrets volés

Un litige californien met en lumière une nouvelle utilisation des secrets d’affaires. Selon Seth Kugler, associé de Grellas Shah LLP, un ancien cadre senior d’une agence marketing a utilisé des informations propriétaires volées comme données d’entraînement. Son objectif était de construire une version d’IA de son ancien supérieur. L’agent devait l’aider à créer une activité concurrente sans acquérir progressivement les compétences nécessaires. L’affaire a été portée devant le tribunal fédéral du district nord de la Californie. Le tribunal a accordé une ordonnance restrictive temporaire, puis une injonction préliminaire. Il a qualifié l’agent concurrent de « menace existentielle ». Lire l’analyse complète.

Le dossier dépasse le scénario classique d’un salarié copiant des fichiers sur une clé USB. L’ancien cadre avait également l’intention de solliciter des clients de son employeur. La particularité réside toutefois dans l’usage des informations volées pour entraîner un agent d’IA. La défense soutenait que les documents se trouvaient dans un dossier de quarantaine. Elle avançait aussi qu’aucun client n’avait encore été détourné. Le tribunal a considéré cette mesure comme largement insuffisante. Pour Kugler, l’IA crée ainsi de nouvelles méthodes d’appropriation de secrets d’affaires. Elle élargit aussi les risques liés aux appareils personnels et aux agents capables d’agir de manière récursive.

Les données contaminent les modèles

La contamination devient durable lorsqu’un secret d’affaires sert à développer un modèle d’apprentissage automatique ou à entraîner un agent. La suppression ultérieure des fichiers originaux ne suffit pas nécessairement à rétablir la situation. Les défendeurs peuvent alors avoir du mal à démontrer que le comportement du système ne provient pas des informations propriétaires. Cette difficulté concerne aussi les données retirées des dossiers visibles. Un agent peut avoir intégré ces informations dans ses paramètres ou dans ses mécanismes d’utilisation. Kugler estime qu’un simple engagement à ne plus consulter les documents volés devient donc insuffisant après leur intégration dans un système d’IA. Le tribunal a retenu cette gravité dans l’affaire californienne.

Les appareils personnels ajoutent un risque opérationnel distinct. Les jeunes entreprises utilisent souvent des ordinateurs privés dans le cadre d’accords de confidentialité et de cession des inventions. Un agent d’IA installé localement peut analyser des fichiers, créer des dossiers et parcourir les chemins d’un disque dur. Ces opérations peuvent se produire sans alerte claire ni autorisation spéciale. Si les réglages autorisent l’entraînement du modèle avec ces données, les secrets peuvent sortir du périmètre de l’entreprise. Kugler indique que cette diffusion pourrait affecter leur protection juridique. Les interfaces web appliquant des règles strictes de confidentialité présentent, selon lui, un niveau de sécurité supérieur aux logiciels locaux capables d’explorer les disques.

Les audits classiques manquent des traces

L’enquête doit évoluer face aux capacités de dispersion et de recréation des données. Les outils d’IA peuvent modifier des fichiers et les déplacer vers des chemins de dossiers difficiles à repérer. Les méthodes traditionnelles de découverte numérique risquent donc de manquer certains éléments. Kugler considère désormais l’imagerie judiciaire complète d’un appareil personnel comme un minimum dans certaines investigations. L’IA réduit également les indices visibles d’une copie de code ou de données. L’analyse doit alors mobiliser des experts techniques spécialisés. Les contentieux de propriété intellectuelle liés à l’IA comportent aussi davantage d’incertitude que les dossiers traditionnels, selon son analyse. Le dossier judiciaire est accessible ici.

Trois mesures prioritaires sont proposées aux dirigeants. La première consiste à imposer des règles strictes pour les agents d’IA et à isoler les outils externes des documents internes. Certains agents ne devraient pas fonctionner dans un environnement contenant des secrets d’affaires. La deuxième vise à supprimer l’accès distant depuis des appareils non administrés. Un environnement cloud fermé peut permettre de consulter et modifier les données sur un serveur sécurisé, sans téléchargement local. La troisième demande de réécrire les accords de confidentialité et de cession des inventions. Ces contrats doivent traiter l’usage de l’IA, les données d’entraînement et l’appropriation par apprentissage automatique. En cas de suspicion, Kugler recommande de couper immédiatement les accès et de consulter un avocat.