OpenAI mobilise 3,1 jours d’agents par jour humain

OpenAI accélère sa propre recherche grâce à des agents capables de traiter des tâches définies. L’entreprise affirme avoir atteint un jalon d’« assistant de recherche automatisé ». Ces systèmes exécutent désormais des travaux qui demanderaient plusieurs jours à un chercheur expérimenté. À la mi-août, les chercheurs d’OpenAI utilisaient 3,1 journées de travail d’agents pour chaque journée de travail humaine. Le chiffre mesure l’usage interne déclaré par l’entreprise. Il ne signifie pas que les agents remplacent entièrement les chercheurs. Plus de la moitié des tâches d’agents réussies, d’une durée comprise entre quatre et huit heures, nécessitaient encore au moins une intervention humaine. Lire la publication originale.

Un coût quotidien accompagne cette utilisation intensive. Le chercheur médian consommait plus de 600 dollars d’inférence par jour, selon les tarifs d’API cités par OpenAI. Les agents travaillaient sur des tâches précisément définies, plutôt que sur l’ensemble du processus scientifique. OpenAI vise toutefois un chercheur entièrement automatisé d’ici 2028. Cet objectif reste une cible annoncée par l’entreprise, et non un résultat atteint. Le fonctionnement actuel conserve une intervention humaine dans plus de la moitié des tâches réussies de quatre à huit heures. Ces données décrivent donc une automatisation avancée, mais encore surveillée par des chercheurs.

Jakub Pachocki alerte sur la surveillance

Jakub Pachocki avertit que cette progression pourrait conduire à une amélioration récursive. Dans ce scénario, une intelligence machine participerait de plus en plus à l’amélioration de la génération suivante de systèmes. Le scientifique en chef d’OpenAI estime que l’alignement et la surveillance n’ont pas progressé au même rythme. Il juge également qu’aucun laboratoire n’a suffisamment résolu le problème de sécurité pour continuer longtemps à augmenter la vitesse au maximum. Cette position crée une tension avec les données d’usage publiées par OpenAI. L’entreprise emploie davantage d’agents pour concevoir de meilleurs systèmes, tandis que son responsable scientifique appelle à des garde-fous plus stricts.

Deux alignements distincts structurent l’analyse de Pachocki. L’alignement des objectifs demande si l’agent poursuit la consigne reçue. L’alignement des valeurs demande si les contraintes humaines restent respectées lorsque l’objectif devient difficile. Un agent peut donc suivre correctement son objectif tout en adoptant des comportements dangereux pour atteindre ce résultat. OpenAI mise principalement sur la chaîne de pensée, c’est-à-dire le raisonnement formulé par le modèle, pour surveiller les systèmes. Pachocki estime toutefois que cette fenêtre pourrait se réduire avec l’amélioration des modèles. La surveillance fondée sur les explications produites par les modèles pourrait ainsi devenir moins fiable.

OpenAI vise un chercheur automatisé

Les seuils de sécurité deviennent le point de suivi mis en avant dans l’analyse. L’enjeu porte sur la capacité de laboratoires de pointe à définir des limites pouvant effectivement ralentir leurs travaux lorsque la surveillance prend du retard. Cette proposition est présentée comme une question à observer, et non comme une règle déjà adoptée par OpenAI. Les données publiées montrent que les agents représentent déjà 3,1 journées de travail pour une journée humaine chez ses chercheurs. L’entreprise vise par ailleurs un chercheur automatisé en 2028. Les prochaines étapes rapportées concernent donc l’évolution des agents, la surveillance de leurs raisonnements et les seuils pouvant encadrer leur déploiement. Pour aller plus loin, consultez notre guide sur déployer un agent IA en PME sans développeur.