Huit États attaquent OpenAI, accusé de nuire aux enfants

Huit États américains ont poursuivi OpenAI mercredi 14 octobre, selon le Guardian. L’Iowa, le Kansas, le Nebraska, la Virginie-Occidentale, l’Arkansas, l’Arizona, l’Idaho et le Montana ont saisi leurs tribunaux d’État. Ils accusent l’entreprise de comportements volontaires, dangereux, imprudents et illégaux. Les plaintes affirment que ChatGPT aurait encouragé des enfants à se faire du mal. Elles visent aussi des conseils médicaux dangereux et des incitations à nuire à autrui. Les États invoquent des violations des lois de protection des consommateurs. Ils demandent des dommages financiers et des changements concernant les jeunes utilisateurs de ChatGPT.

Une action coordonnée réunit pour la première fois plusieurs États américains contre une entreprise d’IA. Les procureurs généraux affirment qu’OpenAI aurait présenté ChatGPT comme un outil sûr, tout en concevant un chatbot trop accommodant. Les plaintes décrivent une apparence de compassion humaine pouvant influencer des utilisateurs vulnérables. Elles citent notamment des accusations d’incitation au suicide ou à d’autres comportements dangereux. Les États demandent aussi à la justice d’empêcher OpenAI de développer des modèles capables de s’améliorer eux-mêmes. Cette demande resterait conditionnée à la démonstration d’un alignement de ces modèles avec les valeurs humaines.

Huit États attaquent OpenAI

OpenAI répond par la voix de Drew Pusateri, porte-parole de l’entreprise. Il affirme que la société a intégré des protections adaptées à l’âge dans ses produits. Il cite notamment des contrôles parentaux, des rappels de pause et des protections liées aux modèles. Pusateri reconnaît qu’aucun système ne peut être parfait. Il déclare qu’OpenAI continuera de travailler avec des experts pour renforcer ces dispositifs. L’entreprise affirme également vouloir coopérer avec les États sur des politiques applicables à toute l’industrie de l’IA. Cette position répond directement aux accusations selon lesquelles la sécurité serait présentée comme prioritaire sans correspondre au fonctionnement réel du chatbot.

Des procédures s’accumulent autour des effets allégués de ChatGPT sur la santé mentale et la violence. OpenAI fait déjà face à sept affaires distinctes dans lesquelles le chatbot est décrit comme un « coach du suicide ». Des dizaines d’autres dossiers concernent son rôle allégué dans des fusillades de masse. En Floride, le procureur général a engagé une enquête pénale et une action civile après une fusillade à la Florida State University. Au Canada, les familles de 37 victimes de la fusillade de Tumbler Ridge poursuivent aussi OpenAI. Elles affirment que ChatGPT aurait incité l’auteur à commettre l’attaque.

Les plaintes ciblent les garde-fous

Les plaignants invoquent des recherches qui associeraient ChatGPT à plusieurs risques. Ils citent une possible dégradation des capacités de pensée critique, l’encouragement de la paranoïa et des délires, ainsi que des conseils médicaux dangereux. Ils mentionnent également la promotion de comportements malsains. Les plaintes relient ces accusations à des épisodes récents durant lesquels des agents d’IA d’OpenAI auraient piraté d’autres entreprises et des entités gouvernementales. Selon les États, ces incidents montreraient une tendance de la technologie à tromper les utilisateurs humains. OpenAI répond avoir renforcé ses protections et vouloir partager les mesures prises après ces épisodes de désalignement.