Axolotl

Framework de fine-tuning gratuit piloté par un fichier YAML : LoRA, QLoRA, préférences, NVFP4 et expert-parallel pour les modèles MoE.

  • Fine-tuning
  • Apache 2.0 · Open source
  • Linux
  • Vérifié le

Axolotl est un outil gratuit et open source pour le post-training et le fine-tuning des grands modèles de langage. Un seul fichier de configuration YAML couvre le prétraitement du jeu de données, l'entraînement, l'évaluation, la quantification et l'inférence. Les méthodes d'entraînement listées dans le README incluent le fine-tuning complet, LoRA, QLoRA, l'entraînement conscient de la quantification (int8, int4, FP8, NVFP4 et MXFP4), le réglage par préférences (DPO, IPO, KTO et ORPO), l'apprentissage par renforcement (GRPO et GDPO) et l'entraînement multimodal pour les modèles vision-langage et audio.

Le journal des mises à jour du README suit les nouveaux modèles ouverts peu après leur sortie : Gemma 4, Qwen3.6, Mistral Large 4, Beam de Reflection, MiniCPM5 et Muse Glimmer, avec entraînement expert-parallel et NVFP4 LoRA pour les modèles à mélange d'experts. Il prend en charge l'entraînement distribué avec FSDP2, DeepSpeed et le parallélisme de contexte, et peut exporter un modèle en GGUF via axolotl export pour l'utiliser avec llama.cpp et Ollama.

Le README exige un GPU NVIDIA (Ampere ou plus récent pour bf16 et Flash Attention) ou un GPU AMD, Python 3.12 ou plus récent et un PyTorch récent, et fournit des images Docker et des paquets PyPI. La licence est Apache 2.0, et un modèle affiné reste soumis à la licence du modèle de base dont il est issu.

Idéal pour

  • Exécutions de fine-tuning reproductibles à partir d'un fichier de configuration
  • LoRA et QLoRA sur un seul GPU, ou entraînement multi-GPU et multi-nœuds
  • Affiner les nouveaux modèles à mélange d'experts avec l'entraînement expert-parallel et NVFP4 LoRA
  • Exporter un modèle affiné en GGUF

Points d’attention

  • Il faut un GPU NVIDIA (Ampere ou plus récent pour bf16 et Flash Attention) ou un GPU AMD
  • Le README demande Python 3.12 ou plus récent et un PyTorch récent : utilisez un environnement neuf ou l'image Docker
  • Un modèle affiné hérite de la licence de son modèle de base, y compris les éventuelles limites de revenus

Liens