IA : modèles
Température de génération
La température est un paramètre d’échantillonnage qui modifie la distribution des probabilités utilisée pour choisir les prochains tokens.
Comprendre la notion
Selon l’implémentation, une valeur plus basse concentre généralement les choix sur les tokens les plus probables, tandis qu’une valeur plus élevée diversifie les sorties. Son effet dépend des autres paramètres et du modèle. Elle doit être réglée à partir de tests, et certains services ne permettent pas de la modifier.
Exemple d’utilisation
Une équipe compare plusieurs réglages sur les mêmes questions pour mesurer la stabilité d’un résumé.
Point de vigilance
Une température basse ne garantit ni la vérité ni une reproduction parfaite entre environnements.