Modèle de base (Base model)

Un modèle de base est le résultat brut du pré-entraînement, avant qu'on ne lui ait appris à suivre des instructions ou à dialoguer ; c'est le point de départ habituel du fine-tuning.

  • Modèles et architecture
  • Mis à jour le

Le pré-entraînement sur d'énormes quantités de texte produit un modèle de base qui continue du texte mais ne répond pas de façon fiable aux questions ni ne suit les instructions. Le post-entraînement, comme l'ajustement sur instructions et souvent l'apprentissage par renforcement, le transforme en modèle de chat ou « instruct » qu'utilise la majorité des gens. Un développeur qui publie aussi le modèle de base vous permet de faire votre propre post-entraînement.

Le mot est employé de façon souple. Pour les modèles de langage, il désigne le checkpoint antérieur à l'ajustement sur instructions, comme l'Inkling de Thinking Machines, publié comme base à personnaliser. Pour les modèles d'image comme Z-Image, « base » désigne le modèle non distillé, plus lent mais aux résultats plus variés, et meilleur point de départ pour le fine-tuning que la version distillée Turbo, plus rapide.

Termes associés

  • Fine-tuning (ajustement fin) Le fine-tuning poursuit l'entraînement d'un modèle pré-entraîné sur vos propres exemples pour qu'il se comporte mieux sur une tâche, un style ou un domaine précis.
  • Distillation La distillation entraîne un modèle élève plus petit à imiter un modèle professeur plus grand, en conservant une grande partie de ses capacités pour une fraction de sa taille.
  • LoRA (adaptation de bas rang) LoRA, sigle de low-rank adaptation, ajuste un modèle en entraînant un petit ensemble de poids ajoutés au lieu de modifier tous ses paramètres.
  • Apprentissage par renforcement (RL) L'apprentissage par renforcement entraîne un modèle en récompensant les bons résultats, comme une réponse correcte ou des tests réussis, au lieu de copier un texte d'exemple.

Tous les termes