Grok et ses images sexualisées : New York interpelle SpaceX

Témoignage sous tension Gabriela Castillo Madrid, responsable des affaires publiques mondiales liées à l’intelligence artificielle chez SpaceX, a témoigné vendredi devant le comité technologique du conseil municipal de New York. Les élus l’ont interrogée sur les contrôles de sécurité de Grok, le modèle contrôlé par SpaceX depuis la fusion avec xAI. Julie Menin, présidente du conseil, a contesté l’affirmation selon laquelle des protections adaptées encadreraient les produits d’intelligence artificielle de l’entreprise. Castillo Madrid a répondu que Grok disposait de contrôles stricts. Elle a ajouté que l’équipe de sécurité examinerait un cas précis évoqué pendant l’audition. Lire le compte rendu de CNBC.

Une convocation obtenue SpaceX avait d’abord refusé de répondre aux demandes du conseil et à une assignation à comparaître. L’entreprise devait participer à une audition organisée le 5 octobre avec OpenAI, Anthropic, Google et Meta. Elle a finalement accepté de témoigner cette semaine, après la menace d’une exécution judiciaire de l’assignation. Le conseil municipal a ouvert son enquête après un mois de débats intenses sur les risques des modèles avancés. Il veut utiliser les témoignages et les informations recueillies pour orienter de nouvelles réglementations. Cette audition a donc placé une représentante de SpaceX face aux questions directes des élus new-yorkais.

SpaceX précise le périmètre de Grok

Les alertes de Devin Kim Devin Kim, ancien salarié de xAI et désormais président du Center for AI Safety, a témoigné après Castillo Madrid. Il a déclaré avoir construit les systèmes utilisés par les chercheurs pour entraîner et évaluer Grok. Selon son témoignage, il a commencé à signaler des préoccupations en janvier 2025. Son responsable aurait écarté ces alertes, affirmant que la sécurité de l’intelligence artificielle était inutile. Kim a aussi indiqué que trois personnes seulement travaillaient alors sur la sécurité des modèles. Plusieurs membres de cette équipe seraient partis après sa démission, en raison de leur frustration face au traitement de ces sujets.

Les données de santé Mercedes Narcisse a interrogé Castillo Madrid sur l’utilisation de Grok avec des radiographies et des images médicales. L’élue a demandé si cette pratique était sûre et si les protections liées aux données de santé s’appliquaient. Castillo Madrid a répondu que Grok n’était pas conçu comme un médecin ou un clinicien. Elle a également déclaré que les utilisateurs choisissaient si leurs conversations pouvaient servir à entraîner les modèles. Narcisse a reproché à l’entreprise d’encourager publiquement le dépôt d’IRM et de radiographies dans Grok. Elle a estimé que les réponses de la représentante restaient trop vagues pendant l’audition.

SpaceX contrôle désormais le modèle Grok

Une structure recomposée Elon Musk a fusionné SpaceX et xAI en février. Cette opération a placé Grok sous le contrôle de SpaceX, qui détient aussi le service satellitaire Starlink. Le modèle est utilisé par certaines agences fédérales, dont le Pentagone. SpaceX est entrée en Bourse en juin et sa valorisation atteint environ 2 000 milliards de dollars. En août, l’entreprise a finalisé l’acquisition de Cursor, une jeune pousse spécialisée dans le codage par intelligence artificielle, pour 60 milliards de dollars. Ces opérations rapprochent les activités spatiales, sociales et logicielles de Musk au sein d’un même groupe industriel et technologique.