LLaMA2 et GPT-3.5 décrochent dans les dialogues longs

Progrès mensuels, limites persistantes. Les chatbots fondés sur de grands modèles de langage progressent chaque mois. Leurs performances sont souvent mesurées avec MMLU, HumanEval ou MATH. Pourtant, la saturation de ces benchmarks ne garantit pas une expérience utilisateur proportionnelle. L’article publié le 18 septembre 2026 défend une autre unité d’analyse. Le dialogue utile repose sur plusieurs échanges centrés sur un objectif. Cet objectif peut être général, comme rester serviable et inoffensif. Il peut aussi correspondre à un rôle précis, comme agent de voyage ou service client. Cette approche vise à mieux représenter une collaboration entre humains et IA, plutôt qu’une simple production de réponses isolées.

Un objectif guide les échanges. La planification d’un voyage illustre cette différence. Les préférences personnelles, celles des accompagnants et les contraintes réelles rendent une transmission en une seule fois coûteuse. Des échanges successifs permettent de sélectionner progressivement les informations importantes. La théorie de la négociation décrit un mécanisme comparable, avec des ajustements itératifs plutôt qu’une offre unique. Chaque phrase peut aussi modifier le modèle mental de l’autre participant. Le dialogue orienté vers un objectif devient ainsi une forme de collaboration. Cette logique concerne également le code. Pour résoudre une issue ordinaire sur GitHub, un système devrait clarifier les exigences, demander des documents manquants et solliciter une aide humaine lorsque nécessaire. Voir SWE-bench pour le cadre cité.

Les chatbots perdent leur rôle

Trois étapes structurent les modèles. Les systèmes actuels commencent par un préentraînement sur de vastes corpus de textes, comprenant notamment des actualités, des livres et du code GitHub. Une mise en forme transforme ensuite l’historique des échanges en chaînes exploitables par le modèle. Les modèles peuvent utiliser des balises comme <system> ou <INST> pour encadrer les instructions. La méthode apply_chat_template est proposée dans certains outils de Hugging Face. L’apprentissage par renforcement avec retours humains intervient ensuite. Cette étape récompense ou pénalise certaines réponses. L’article la décrit comme une couche limitée par rapport au préentraînement, notamment à cause de volumes de données plus réduits.

La stabilité baisse après plusieurs tours. Le message système reste la principale méthode de contrôle du comportement des modèles de langage. Des travaux ont toutefois observé sa fragilité face à des conditions adversariales. Une évaluation interactive a fait dialoguer deux agents guidés par des messages système pendant plusieurs tours. À chaque étape, une question liée aux instructions permettait ensuite d’évaluer leur respect. Les résultats agrégés concernant LLaMA2-chat-70B et gpt-3.5-turbo-16k ont été jugés alarmants dans l’article. Les modèles pouvaient aussi se laisser distraire après environ 1,6 millier de tokens, malgré des fenêtres théoriques atteignant 100 000 tokens. Cette dérive peut accroître les risques de contournement et d’hallucinations.

Le dialogue exige une intention

Les usages prolongés changent les exigences. Un assistant personnel pourrait apprendre progressivement les préférences et les intentions d’une personne. Il pourrait lire des ressources comme Twitter, arXiv, Slack ou le New York Times. Il pourrait ensuite préparer un résumé matinal adapté. Il pourrait également rédiger des courriels et s’améliorer grâce aux corrections reçues. L’article rapproche cette vision d’outils comme Siri ou les assistants virtuels intelligents. Les interactions longues introduisent donc la mémoire, l’adaptation et la personnalisation. Elles demandent aussi de conserver une direction cohérente. Pour la programmation, un échange inspiré du pair programming pourrait réduire certains défauts sans augmenter le nombre d’heures humaines, selon l’analyse présentée.

Le préentraînement ne suffit pas. Il donne au modèle une capacité à représenter plusieurs personas présentes sur Internet. Une instruction peut pourtant échouer à isoler durablement une persona précise. L’apprentissage par renforcement avec retours humains adapte efficacement un modèle vers un assistant serviable et inoffensif. Les méthodes originales formulent cependant l’optimisation comme un problème à une étape. Elles ne planifient pas nécessairement une conversation entière. Cette limite peut créer une ambiguïté de tâche et favoriser une ressemblance humaine superficielle. Sergey Levine distingue ainsi la sélection d’actions orientées vers un objectif d’une génération répondant seulement aux préférences de l’utilisateur. L’article cite aussi le dialogue décisionnel et la plateforme Sotopia comme pistes de travail.