IBM explique pourquoi la température rend l’IA imprévisible

La température ajuste les probabilités de sélection des mots pendant la génération d’un texte. À chaque étape, un modèle de langage calcule une probabilité pour chaque mot possible, puis en choisit un. Le réglage modifie ce tirage. Une température basse concentre les probabilités sur les mots les plus attendus. La réponse devient alors plus prévisible, factuelle et répétitive d’une génération à l’autre. Une température élevée aplatit ces probabilités. Des mots moins évidents peuvent donc être sélectionnés. Le réglage agit ainsi sur la prévisibilité des réponses, sans constituer une mesure directe de leur qualité. Numerama détaille ce mécanisme.

Le curseur varie généralement de 0 à 2 selon les plateformes. Anthropic limite le sien à 1, avec 1,0 comme réglage par défaut sur la plupart de ses modèles. La température est accessible dans certaines API et sur des démonstrations communautaires hébergées par Hugging Face. Dans la majorité des chatbots grand public, le système la gère toutefois automatiquement. Les utilisateurs n’ont donc généralement pas accès à ce paramètre. Cette différence sépare les interfaces de test des services conversationnels courants. Elle explique aussi pourquoi deux environnements utilisant un même modèle peuvent présenter des options de réglage différentes.

IBM compare trois réglages

IBM illustre l’effet du paramètre avec son modèle Granite et un même prompt. À basse température, le texte reste sobre et prévisible. À température moyenne, il gagne en détails. À température élevée, il emprunte des directions plus inattendues. Cette démonstration montre une variation du comportement de génération selon le niveau choisi. Elle ne permet toutefois pas de conclure qu’un texte devient automatiquement plus créatif. IBM souligne justement que température ne signifie ni créativité ni nouveauté. Le réglage change la sélection des mots, mais il ne fournit pas à lui seul un critère pour évaluer l’inventivité d’une réponse.

L’étude citée par l’article, menée par Peeperkorn et ses coauteurs, précise les limites de cette interprétation. Elle associe la température à une corrélation faible avec la nouveauté du texte. Le lien est moyen avec son incohérence. L’étude ne relève pas d’impact sur la cohésion ou l’originalité. Ces résultats distinguent donc plusieurs propriétés souvent regroupées sous le mot créativité. Une réponse moins attendue peut perdre en cohérence sans devenir plus originale. La hausse du réglage rend surtout le modèle moins fidèle à son entraînement, selon la conclusion rapportée par l’article. Cette distinction compte lors des essais de génération.

La température reste un réglage

Les tests doivent distinguer prévisibilité, nouveauté et cohérence. Une température basse favorise les mots attendus et des réponses répétitives. Une valeur élevée augmente la possibilité de sélections moins évidentes. IBM observe alors des embranchements plus inattendus avec Granite. L’étude citée relie cependant plus fortement ce réglage à l’incohérence qu’à la nouveauté. Le paramètre ne suffit donc pas à mesurer l’originalité d’un texte. Dans une API ou une démonstration Hugging Face, son utilisation permet surtout de comparer plusieurs comportements pour un même prompt. Les chatbots grand public masquent généralement ce choix en le laissant au système automatique.