Karpathy invente le métier de shaper pour superviser des agents IA

Andrej Karpathy imagine un futur où des humains supervisent des agents artificiels depuis des postes équipés. Merus, le personnage principal, sélectionne des « HIT », des unités de travail nécessitant une supervision humaine. Il choisit parmi des missions de garde rapprochée, d’expédition scientifique, de promenade canine ou de livraison par drone. Son expertise de « shaper » repose sur des certifications et des évaluations élevées. Les shapers conçoivent des stratégies d’apprentissage et repèrent les lacunes dans les données. Le récit présente ainsi un marché où les tâches sont distribuées aux humains selon leurs compétences. Les missions les plus rémunératrices restent accessibles aux profils les mieux évalués. Lire le récit original

Le matériel structure aussi cette économie fictionnelle. Tout le monde peut commencer avec un équipement peu coûteux, mais l’entreprise fournit du matériel plus avancé. Certaines missions exigent une faible latence, ce qui favorise les installations professionnelles. En échange, l’entreprise prélève une part des revenus générés par les HIT. Merus souhaite devenir shaper indépendant, mais il reste dépendant de cette plateforme. Pour travailler, il utilise un système de suivi de position, des dispositifs haptiques et un casque. Le dispositif calibre sa posture complète avant chaque mission. Le récit associe donc progression professionnelle, accès au matériel et dépendance à l’infrastructure opérée par l’entreprise.

Les agents Visceral atteignent un trillion

Le réseau Visceral équipe l’avatar attribué à Merus. Cette famille d’agents repose sur une architecture annoncée comme minimaliste, avec environ un trillion de paramètres. Elle comprend des réflexes sensorimoteurs, des connexions fractales dans les flux visuels et des zones motrices inspirées de la neurobiologie du poulpe. Le système utilise aussi un « Mystery module », ajouté six ans plus tôt par une demande anonyme. Ce module améliore fortement les performances dans plusieurs tâches cognitives supérieures, mais son fonctionnement reste mal compris. Des laboratoires l’étudient et plusieurs thèses lui sont consacrées. Malgré les débats éthiques sur ses propriétés dynamiques, il finit par être intégré à la branche principale de Visceral.

La fiabilité revendiquée de Visceral repose également sur des interventions autonomes. Une semaine avant les événements vécus par Merus, un agent Visceral 4.0 éloigne des chiens enragés d’enfants dans une petite ville indienne. Un opérateur humain intervient ensuite, mais la crise est déjà évitée. Un mois auparavant, un autre agent reconnaît une attaque de drone et protège un groupe de personnes avec son propre corps. Le récit attribue ces comportements à des actions façonnées pendant de longues périodes. Il oppose cette réputation à celle de Crown Kappa, une famille propriétaire dont les performances sont mieux évaluées par des sociétés indépendantes. Merus refuse pourtant un poste mieux payé chez Crown Co.

Le module Mystery divise les chercheurs

Le contrôle échoue lorsque Merus lance les diagnostics de routine de l’agent. Une somme de contrôle ne correspond pas aux poids du modèle dans un module sans historique récent d’ajustement. La procédure correcte consiste à abandonner la mission et à signaler le dysfonctionnement. Merus hésite, car il souhaite poursuivre le HIT et retrouver Licia. Il ouvre alors le visualiseur de réseau pour examiner la zone signalée. La scène décrit une architecture tridimensionnelle de connexions neuronales, avec des modules de transformation spatiale, des réflexes rapides et des zones motrices denses. Le texte s’arrête pendant cette inspection, au moment où les gradients de récompense traversent encore le réseau. Consulter la publication d’Andrej Karpathy