La Californie interdit l’IA émotionnelle au travail

La Californie avance Dimanche 30 août, les législateurs californiens ont adopté l’Assembly Bill 1883, ou AB 1883. Le texte interdit aux employeurs d’utiliser des outils d’intelligence artificielle pour surveiller l’état émotionnel individuel d’un salarié. Il interdit également la collecte de ses « données neuronales ». Le projet de loi doit désormais être transmis au gouverneur Gavin Newsom. Le calendrier législatif californien fixait au lundi 31 août la date limite d’adoption des textes concernés. Les lois signées par le gouverneur entrent généralement en vigueur le 1er janvier suivant. Le texte complet de l’AB 1883 précise le périmètre de cette interdiction.

Le texte définit L’AB 1883 définit les données neuronales comme des informations produites par la mesure de l’activité du système nerveux central ou périphérique. Ces informations ne doivent pas être déduites de données non neuronales. Le texte couvre une liste étendue d’outils d’IA. Elle inclut notamment les outils produisant des résultats qui influencent des environnements physiques ou virtuels. L’interdiction ne supprime pas toute surveillance sur le lieu de travail. Les employeurs peuvent encore utiliser ces outils pour garantir la sécurité. Certaines activités liées au développement d’aéronefs et de produits militaires bénéficient aussi d’une exemption. Chaque violation pourrait entraîner une pénalité de 500 dollars.

La Californie encadre les outils émotionnels

L’Europe interdit déjà La loi californienne intervient alors que la surveillance émotionnelle par IA fait l’objet d’un intérêt croissant chez les spécialistes des technologies RH. L’AI Act de l’Union européenne interdit déjà l’usage de certains systèmes d’IA évaluant les émotions sur le lieu de travail. Ses dispositions concernées sont entrées en vigueur en août 2024. En Californie, l’AB 1883 vise directement les outils utilisés par les employeurs pour surveiller l’état émotionnel individuel. Il laisse toutefois subsister les outils de surveillance destinés à la sécurité. Cette distinction inscrit le texte dans une approche ciblée, centrée sur l’état émotionnel et les données issues du système nerveux.

Burger King teste Patty Burger King a annoncé cette année le déploiement de Patty, un assistant d’IA intégré aux casques des employés. Selon l’Associated Press, le logiciel peut identifier des expressions associées à la convivialité. L’entreprise a indiqué vouloir utiliser Patty comme outil de coaching, et non comme dispositif de suivi individuel. Des dirigeants de Korn Ferry ont aussi décrit des usages de l’IA émotionnelle dans les centres d’appels, les halls d’accueil et plusieurs bureaux. Ces applications ont été présentées comme potentiellement utiles au recrutement, à la formation et au suivi de la sécurité. Le marché de l’IA émotionnelle pourrait atteindre 9 milliards de dollars en 2030, selon un rapport cité par Korn Ferry. L’exemple de Patty illustre cette controverse.

Newsom doit encore se prononcer

La prudence reste demandée Des chercheurs contestent cependant la capacité de l’IA à mesurer les émotions. Dans une analyse publiée en mars 2025, un professeur associé de l’information à l’Université du Michigan a qualifié cette capacité de controversée. Il a aussi indiqué que certaines recherches relevaient des inquiétudes liées à la vie privée, à l’autonomie et aux dommages psychologiques. Cette analyse ne présente donc pas la mesure automatisée des émotions comme un indicateur établi. Elle appelle les employeurs et les organisations à la prudence. En Californie, la décision immédiate concerne désormais la signature éventuelle de l’AB 1883 par Gavin Newsom, après son adoption par la législature.