StartHub accompagne les dirigeants à chaque étape du développement de leur entreprise en réunissant stratégie, expertise et les meilleurs partenaires autour de leurs projets.
Inférence & performance
Répartition de certaines opérations et représentations d’un modèle entre plusieurs dispositifs de calcul.
Il permet d’utiliser davantage de ressources mais nécessite des communications. Son intérêt dépend de la taille du modèle, du réseau et de la charge.
Des couches sont exécutées en coopération sur plusieurs GPU.
Ajouter des GPU ne produit pas nécessairement un gain proportionnel.
Inférence & performance
Regroupement de travaux pour les exécuter ensemble et mieux utiliser certaines ressources.
Inférence & performance
Un cache conserve temporairement un résultat ou une donnée afin d’éviter de refaire un traitement ou un accès coûteux.
Inférence & performance
Le CPU est le processeur généraliste qui exécute les instructions principales d’un système informatique.
Inférence & performance
Le débit mesure la quantité de travail traitée par un système pendant une unité de temps.
