IA : modèles
Quantification
Représentation de certaines valeurs d’un modèle avec une précision numérique réduite.
Comprendre la notion
Elle peut diminuer la mémoire nécessaire et modifier la vitesse d’exécution. Les effets dépendent du matériel, des opérations et de la méthode. La qualité doit être mesurée sur les tâches effectivement visées.
Exemple d’utilisation
Un modèle est évalué dans deux formats de précision sur le même corpus.
Point de vigilance
Moins de bits ne signifie pas automatiquement moins de latence.
