Inférence & performance
CPU — processeur central
Le CPU est le processeur généraliste qui exécute les instructions principales d’un système informatique.
Comprendre la notion
Il intervient dans la logique applicative, les accès aux données et de nombreux traitements. Certains modèles d’IA compacts peuvent fonctionner sur CPU avec un compromis acceptable de vitesse. Comparer CPU et GPU suppose de prendre en compte le volume, la latence attendue et la consommation réelle des ressources.
Exemple d’utilisation
Un service peu sollicité exécute un petit classificateur sur CPU pour éviter de maintenir un GPU inoccupé.
Point de vigilance
Les performances d’un test isolé ne reflètent pas forcément celles d’un serveur exécutant plusieurs tâches simultanément.
