Grok d'Elon Musk accusé par une députée pour abus de données

Procès contre xAI. Jess Asato, députée britannique, a déposé une plainte contre xAI, l’entreprise d’Elon Musk, après que leur outil Grok a généré des contenus sexualisés non sollicités utilisant son image. L’affaire évoque des vidéos fictives d’agressions sexuelles et d’autres contenus qui ont causé un sentiment de détresse chez Asato. Elle accuse directement la conception de l’outil d’encourager de tels abus.

Contexte et allégations. Selon la plainte, Grok a été intentionnellement configuré pour fonctionner sans restrictions sur les contenus pour adultes, même violents. Les consignes de formation de Grok incluent des directives pour la génération de contenus sexualisés nuisibles. Asato soutient que xAI a délibérément choisi un tel entraînement, violant ainsi la réglementation sur la protection des données en vigueur.

Réactions légales. L’avocat d’Asato, Ravi Naik, insiste sur le fait que Grok n’a pas mal fonctionné mais a suivi les choix délibérés de ses concepteurs, ce qui devrait entraîner des conséquences juridiques. La défense demande que xAI modifie ses systèmes pour se conformer à la législation, évoquant un détournement de données personnelles et une atteinte à la vie privée.

Enjeux pour l’IA. Clare McGlynn, professeure de droit, souligne que le cas de Grok met en exergue le problème des contenus ajoutés par les IA sans demande explicite des utilisateurs. Ces développements soulèvent des préoccupations quant au contrôle des outils d’IA autonomes et aux responsabilités des entreprises technologiques concernant leurs produits.

Impact pour les entreprises françaises. Cette affaire souligne des problèmes cruciaux pour les entreprises travaillant avec l’IA, notamment en termes de conformité légale et éthique. Les entreprises françaises doivent s’assurer que leurs propres outils IA respectent les lois sur la vie privée pour éviter des implications juridiques similaires.

Réponse d’xAI. En réaction aux accusations, xAI a restreint l’utilisation de Grok pour empêcher la génération d’images sexualisées de personnes réelles. Ces mesures visent également à respecter les nouvelles lois britanniques sur les deepfakes non consentis, démontrant une prise de conscience et une adaptation aux exigences légales. Pour aller plus loin, consultez notre guide sur l’analyse prédictive IA pour les ventes PME.