IA : modèles
Préentraînement
Le préentraînement est une phase d’apprentissage initiale qui donne à un modèle des capacités générales avant son adaptation éventuelle à un usage particulier.
Comprendre la notion
Pour de nombreux modèles de langage, cette phase exploite de vastes corpus afin d’apprendre des régularités. Elle demande des ressources importantes et se distingue de l’utilisation quotidienne du modèle. Une startup peut souvent partir d’un modèle existant plutôt que reproduire cette étape.
Exemple d’utilisation
Une équipe adapte un modèle déjà préentraîné à la classification de ses documents au lieu d’entraîner un modèle général depuis zéro.
Point de vigilance
Les connaissances apprises ne constituent pas une base documentaire datée et vérifiable. Un accès à des sources actualisées peut rester nécessaire.
