En résumé
Claude, ChatGPT et Gemini produisent des réponses prévisibles et convergentes sur des tâches pourtant ouvertes comme le choix d'un nombre aléatoire.
Ce phénomène de pensée de groupe entre modèles est identifié comme un problème structurel, pas un cas isolé.
Une startup travaille spécifiquement à corriger cette tendance à la convergence dans les sorties des LLMs.
Le signal : Une startup identifie un biais de convergence dans les LLMs grand public : interrogés sur un nombre aléatoire entre 1 et 10, Claude, ChatGPT et Gemini retournent quasi systématiquement 7 en premier choix.
Vous appréciez ce genre d'analyse ?
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Gratuit, sans engagement.
+11 000 fondateurs
Les grands modèles convergent vers les mêmes réponses, même sur des tâches ouvertes. Selon un article de MIT Technology Review, Claude, ChatGPT et Gemini retournent quasi systématiquement le chiffre 7 lorsqu'on leur demande un nombre aléatoire entre 1 et 10. Les tentatives suivantes produisent des séquences elles aussi prévisibles, autour de 3 ou 4, puis de 8 ou 9. Le phénomène n'est pas systématique, mais sa fréquence est suffisamment notable pour être documentée.
Ce comportement illustre un biais structurel propre à l'entraînement des modèles de langage. Les LLMs sont optimisés pour produire des réponses probables selon les données vues à l'entraînement, ce qui les pousse vers des sorties statistiquement centrales plutôt que véritablement variées. La source qualifie ce phénomène de "groupthink", une pensée de groupe qui traverse les modèles des principaux acteurs du secteur, indépendamment de leurs architectures respectives.
Une startup non nommée dans le résumé disponible travaille à corriger cette tendance. Son approche vise à introduire davantage de diversité dans les sorties des LLMs, sans que les modalités techniques précises soient détaillées dans la portion de source accessible. Le problème ciblé dépasse le cas du nombre aléatoire : il concerne la capacité des modèles à produire des réponses genuinement ouvertes sur tout type de tâche.
Les implications pratiques concernent directement les équipes qui utilisent des LLMs pour générer des options, explorer des scénarios ou produire de la créativité assistée. Si les modèles convergent systématiquement vers les mêmes sorties, leur valeur en tant qu'outils d'exploration ou de génération d'idées distinctes se trouve limitée. La source présente ce biais comme un problème de fond, non comme une anomalie marginale.
Le sujet rejoint des travaux plus larges sur la diversité des sorties des modèles de langage, un champ de recherche actif depuis l'essor des LLMs grand public. La concentration du marché autour de quelques modèles dominants, tous entraînés sur des corpus similaires, accentue mécaniquement cette homogénéité des réponses à l'échelle de l'industrie.
Gardez un coup d'avance en IA et tech.
Chaque mardi et vendredi, l'essentiel en business & IA décryptées en 5 minutes. Zéro spam.
+11 000 fondateurs