Donald Michie redoute déjà la tyrannie automatisée

Une alerte en 1972 En 1972, des chercheurs en intelligence artificielle et d’autres experts se sont réunis en Italie pour examiner les conséquences éthiques et sociales de cette technologie. Le groupe, surnommé Serbelloni, travaillait à la Villa Serbelloni, sur les rives du lac de Côme. Donald Michie dirigeait cette rencontre internationale. Il était alors directeur du département d’intelligence artificielle de l’Université d’Édimbourg. Selon son fils Jonathan Michie, le groupe a étudié plusieurs risques liés à l’automatisation. Ses travaux portaient notamment sur la tyrannie politique, l’érosion de l’autonomie humaine et la coercition sociale généralisée. Cette histoire est rapportée dans une lettre publiée par The Guardian.

Un financement britannique réduit L’année suivante, le Royaume-Uni a réduit le financement consacré à l’apprentissage automatique, à la robotique et à l’intelligence artificielle. Jonathan Michie relie cette décision au rapport Lighthill, dont l’établissement répondait, selon des travaux documentés depuis, à cette orientation. Les chercheurs ont alors dû se concentrer sur des travaux jugés plus directement utiles à l’industrie. Donald Michie a tenté de réunir à nouveau le groupe Serbelloni. Il souhaitait y intégrer des spécialistes des sciences humaines. Cette tentative n’a pas abouti. Le rapport Lighthill fait l’objet d’une analyse historique publiée par la Cambridge University Press.

Le groupe Serbelloni cartographiait les risques

Des risques politiques identifiés La réunion de 1972 ne portait pas seulement sur les capacités techniques des machines. Elle examinait aussi leurs effets possibles sur les institutions et les personnes. Jonathan Michie écrit que les experts avaient cartographié la tyrannie politique potentielle, la perte d’autonomie humaine et la coercition sociale produite par l’automatisation. Il présente ces travaux comme une tentative précoce de traiter ensemble les dimensions éthiques et sociales de l’intelligence artificielle. Le groupe rassemblait des experts internationaux. Son lieu de réunion, la Villa Serbelloni, a donné son nom à cette initiative. Donald Michie dirigeait le département de machine intelligence de l’Université d’Édimbourg.

Mumford défendait la résistance Une seconde lettre, signée par Callum Brown, relie cette discussion aux travaux de Lewis Mumford. Cet intellectuel américain a consacré une grande partie de sa vie à critiquer la ville démesurée comme une machine pouvant nuire à des millions de personnes. Il a échangé pendant plus de trois décennies avec l’humaniste britannique Frederic J. Osborn. Leur correspondance a contribué au développement d’un système d’aménagement urbain présenté comme plus raisonnable. Brown écrit que Mumford voyait la machine automatique capable de rendre l’être humain passif et privé de but. Il estimait que les humains devaient résister à toute passivité imposée.

Les critiques contestent l’intelligence des machines

Une obsession des données Callum Brown conteste enfin l’idée d’une intelligence artificielle véritablement très intelligente. Il affirme que quelques problèmes bien choisis peuvent révéler sa dépendance handicapante aux données. Selon lui, les machines se concentrent sur les données plutôt que sur la connaissance, que Brown associe à une force humaine. Cette critique s’inscrit dans la continuité de sa lecture de Lewis Mumford. Elle oppose une machine automatique susceptible d’induire la passivité à la capacité humaine de conserver un but. Les deux lettres replacent donc les débats actuels sur l’intelligence artificielle dans une histoire qui remonte aux discussions internationales de 1972.