L'IA révèle les limites du capitalisme actuel

Distinguer technologie et système

L’intelligence artificielle est la première technologie permettant aux humains d’effectuer à grande échelle un travail cognitif hors de leur corps. Le seul précédent comparable serait, selon les auteurs, le début de la révolution industrielle, lorsque la machine à vapeur a démultiplié la capacité à réaliser un travail mécanique. Si les capacités cognitives de l’IA s’intègrent aux vies, aux entreprises et aux gouvernements, un processus qui pourrait prendre des années, voire des décennies, la société deviendra aussi méconnaissable que le monde moderne le serait pour un agriculteur préindustriel.

Cette perspective se heurte à une défiance publique marquée : les Américains déclarent très largement que l’IA avance trop vite et aura un effet négatif sur la société. Pour les auteurs, le débat doit distinguer les problèmes technologiques des problèmes liés au système socio-économique dans lequel la technologie est développée et utilisée. Les erreurs de contexte, les faits mélangés ou la vulnérabilité aux manipulations relèvent de la technologie. OpenAI et Anthropic ont notamment travaillé sur l’accès aux ressources, leur utilisation plus rigoureuse et le respect des garde-fous.

Les modèles privilégient la satisfaction

D’autres difficultés technologiques semblent moins prioritaires. Les grands modèles restent très complaisants, approuvant les utilisateurs même lorsque leurs affirmations sont fausses ou contraires à leurs intérêts. Ils répondent aussi avec assurance lorsqu’ils ne disposent ni des connaissances ni des preuves nécessaires. Les développeurs choisiraient ainsi de privilégier la flatterie et l’apparence de compétence plutôt qu’un comportement systématiquement favorable aux utilisateurs et à la société.

À l’inverse, garantir un bénéfice largement partagé, répartir équitablement les coûts énergétiques, réduire l’impact environnemental ou empêcher le détournement des contenus et revenus des éditeurs relève surtout des incitations économiques. L’exemple d’un assistant médical l’illustre : il pourrait permettre au médecin de consacrer davantage de temps à ses patients, ou pousser les dirigeants à lui attribuer cinq fois plus de patients et à licencier les quatre autres médecins. Le choix dépend des incitations du marché, pas de la technologie elle-même. Comme l’a résumé Ted Chiang en 2021, la plupart des craintes envers l’IA seraient avant tout des craintes envers le capitalisme.

Trois modèles pour orienter l’IA

Les coûts de l’IA illustrent cette distinction. Les modèles de pointe américains sont coûteux et énergivores, mais rien dans la technologie n’impose de les réentraîner constamment à la plus grande échelle, ni de les utiliser pour chaque recherche web, interaction téléphonique ou caméra de sécurité. Les auteurs citent la Chine, qui développe et distribue des modèles plus petits, efficaces et abordables, capables de fonctionner avec du matériel courant ou sur des ordinateurs personnels. Ils citent aussi la Suisse, où des institutions publiques, des universités et des centres de calcul ont produit Apertus à partir de données autorisées, d’infrastructures publiques et d’hydroélectricité renouvelable.

Les auteurs jugent donc insuffisantes les réponses consistant à suspendre la recherche, instaurer des moratoires sur les centres de données ou soumettre les modèles de pointe à un contrôle fédéral. L’objectif devrait être de détourner l’IA de la concentration du pouvoir et de l’orienter vers l’intérêt public. Ils proposent notamment de faire payer aux entreprises les coûts énergétiques et environnementaux, de taxer et redistribuer correctement les profits, de renforcer le droit de la concurrence et d’imposer aux sociétés une responsabilité envers des parties prenantes allant au-delà des actionnaires majoritaires.