Nouvelle startup IA vise le biais de groupe

Une startup innovante s'attaque au biais de groupe observé dans les grands modèles de langage (LLMs). Ces modèles, comme ChatGPT et Gemini, ont tendance à donner des réponses similaires. Par exemple, en demandant un nombre aléatoire entre 1 et 10, les réponses sont souvent restreintes à quelques chiffres spécifiques.

Les chatbots actuels montrent des biais dans leurs réponses sous certaines instructions répétées. Demander un autre numéro après une première requête génère souvent du 3 ou 4, puis 8 ou 9. Ce schéma ne fonctionne pas à chaque fois, mais démontre une répétitivité significative dans les réponses fournies par ces systèmes.

La startup espère diversifier davantage les générateurs de texte en analysant ces biais de répétition. Elle se concentre sur l'amélioration des algorithmes qui pourraient atténuer ce phénomène de pensée de groupe, perçu comme une limitation dans l'innovation et la variabilité des réponses.

Les implications potentielles de cette recherche pourraient conduire à des modèles de langage plus robustes et variés. À terme, ces avancées pourraient améliorer la capacité des chatbots à fournir des interactions plus enrichissantes et moins prévisibles aux utilisateurs.

Si cette initiative réussit, cela pourrait marquer un changement significatif dans la façon dont les modèles de langage sont programmés pour réagir aux instructions variées. Un succès dans ce domaine pourrait inspirer davantage d'innovation dans le secteur de l'intelligence artificielle, avec un impact sur divers secteurs dépendant de l'IA.