Inférence & performance
Inter-token latency (ITL)
Temps observé entre les tokens successifs pendant la génération.
StartHub accompagne les dirigeants à chaque étape du développement de leur entreprise en réunissant stratégie, expertise et les meilleurs partenaires autour de leurs projets.
Comprendre les notions utiles pour structurer un projet, piloter une entreprise et éclairer ses décisions.
1–1 sur 1 définition
Effacer les filtresInférence & performance
Temps observé entre les tokens successifs pendant la génération.