Andrej Karpathy imagine les humains aux commandes des agents

Andrej Karpathy imagine une société où des opérateurs humains sélectionnent des tâches exécutées par des agents neuronaux. Son récit suit Merus, un « shaper » expérimenté, au début d’une journée de travail. Merus consulte une liste de missions appelées HIT, pour Human Intelligence Task. Ces missions nécessitent une supervision humaine. Il repère notamment une protection rapprochée en Suède, une expédition scientifique en Antarctique, une promenade de chien et une livraison par drone. Il choisit finalement une mission d’assemblage événementiel à l’hôtel Hilltop, déjà sélectionnée par Licia. L’histoire présente donc une plateforme de travail où les certifications, les évaluations et le matériel déterminent l’accès aux tâches les mieux rémunérées. Lire le récit complet d’Andrej Karpathy.

Le système rémunère les opérateurs selon leur spécialisation et leur équipement. Merus possède plusieurs certifications de « shaper » et de très bonnes évaluations. La société fournit du matériel avancé, notamment un suivi de position, des dispositifs haptiques et un casque. Certaines missions exigent une latence suffisamment faible pour réserver l’accès aux équipements professionnels. En échange, l’entreprise prélève une part sur les HIT réalisés. Merus souhaite devenir indépendant, mais il estime que cette transition demandera du temps. Une fois connecté, il rejoint un avatar Pegasus presque exclusivement associé à son entreprise. L’avatar dispose des caractéristiques matérielles les plus récentes, mais son corps est rose vif. Cette scène installe le travail comme une interface entre opérateur, société et agent artificiel.

Visceral structure ses agents

Le modèle Visceral pilote l’avatar de Merus avec un réseau neuronal d’environ 1 000 milliards de paramètres. Le récit décrit une architecture comprenant des réflexes sensorimoteurs rapides, des connexions fractales dans les flux visuels et des zones motrices distribuées inspirées de la biologie du poulpe. Le modèle utilisé dérive de la série Visceral 5.0, présentée comme ouverte et fiable. Merus connaît bien cette famille d’agents. Il inspecte toutefois un module particulier, appelé Mystery. Ajouté anonymement six ans plus tôt, ce module récurrent améliore fortement les performances dans plusieurs tâches cognitives. Des laboratoires l’étudient, mais son fonctionnement reste mal compris dans le récit. Son adoption progresse malgré les débats sur son origine et ses propriétés dynamiques.

Les agents autonomes bénéficient d’une réputation construite par plusieurs interventions. Une semaine avant l’action de Merus, un agent Visceral 4.0 a éloigné des chiens enragés d’enfants dans une petite ville indienne. Il a détecté le danger, déclenché une alerte et permis l’arrivée d’un opérateur humain. Un mois auparavant, un autre agent Visceral a reconnu une attaque de drone. Il s’est placé autour de l’appareil, qui a explosé loin d’un groupe de personnes. Le récit attribue ces comportements à des actions façonnées progressivement dans les réseaux. Il présente aussi la série Crown Kappa, développée par Crown Co. Ses performances sont mieux notées par des sociétés d’évaluation indépendantes, mais ses réseaux restent propriétaires.

Le diagnostic révèle une anomalie

Un contrôle échoue lorsque Merus lance les diagnostics du modèle. La somme de contrôle des poids ne correspond pas dans un module sans historique récent d’ajustement. Merus connaît la procédure attendue : abandonner la mission et signaler le dysfonctionnement. Il hésite pourtant, car il souhaite poursuivre la tâche et retrouver Licia. Il ouvre alors le visualiseur de réseau pour examiner la zone signalée. L’interface affiche une représentation tridimensionnelle des connexions neuronales. Merus reconnaît les modules de transformation spatiale, les connexions réflexes et une couche d’association multisensorielle. Le réseau traite encore la scène visuelle, équilibre l’avatar et fait circuler des gradients depuis les fonctions de récompense et les objectifs non supervisés. La scène s’interrompt pendant cette inspection. Pour aller plus loin, consultez notre guide sur déployer un agent IA en PME sans développeur.