IA : modèles
Top-p — échantillonnage par noyau
Le top-p limite l’échantillonnage à un ensemble de tokens dont les probabilités cumulées atteignent un seuil défini.
Comprendre la notion
Le nombre de candidats varie donc selon la distribution produite à chaque étape. Ce paramètre agit sur la diversité des sorties, en interaction avec la température. Pour interpréter une expérience, conserver les autres réglages et la version du modèle aussi stables que possible.
Exemple d’utilisation
Une application teste si un seuil plus restrictif réduit les variations de formulation sans détériorer la qualité des réponses.
Point de vigilance
Changer plusieurs paramètres simultanément empêche d’attribuer une amélioration à un réglage précis.
