Axolotl
Framework gratuito de fine-tuning con un solo archivo YAML: LoRA, QLoRA, ajuste por preferencias y NVFP4 y expert-parallel para modelos MoE.
Axolotl es una herramienta gratuita y de código abierto para el post-entrenamiento y el fine-tuning de grandes modelos de lenguaje. Un único archivo de configuración YAML cubre el preprocesamiento del dataset, el entrenamiento, la evaluación, la cuantización y la inferencia. Los métodos de entrenamiento que lista el README incluyen full fine-tuning, LoRA, QLoRA, entrenamiento consciente de la cuantización (int8, int4, FP8, NVFP4 y MXFP4), ajuste por preferencias (DPO, IPO, KTO y ORPO), aprendizaje por refuerzo (GRPO y GDPO) y entrenamiento multimodal para modelos de visión-lenguaje y de audio.
El registro de novedades del README sigue a los nuevos modelos abiertos poco después de su lanzamiento, con Gemma 4, Qwen3.6, Mistral Large 4, Beam de Reflection, MiniCPM5 y Muse Glimmer, además de entrenamiento expert-parallel y NVFP4 LoRA para modelos de mezcla de expertos. Soporta entrenamiento distribuido con FSDP2, DeepSpeed y paralelismo de contexto, y puede exportar un modelo a GGUF con axolotl export para usarlo con llama.cpp y Ollama.
El README indica como requisitos una GPU NVIDIA (Ampere o más nueva para bf16 y Flash Attention) o una GPU AMD, Python 3.12 o superior y una versión reciente de PyTorch, y ofrece imágenes de Docker y paquetes en PyPI. La licencia es Apache 2.0, y un modelo afinado sigue cargando con la licencia del modelo base del que partió.
Ideal para
- Ejecuciones de fine-tuning repetibles desde un archivo de configuración
- LoRA y QLoRA en una GPU, o entrenamiento multi-GPU y multi-nodo
- Afinar nuevos modelos de mezcla de expertos con entrenamiento expert-parallel y NVFP4 LoRA
- Exportar un modelo afinado a GGUF
A tener en cuenta
- Necesita una GPU NVIDIA (Ampere o más nueva para bf16 y Flash Attention) o una GPU AMD
- El README pide Python 3.12 o superior y una versión reciente de PyTorch, así que usa un entorno nuevo o la imagen de Docker
- Un modelo afinado hereda la licencia de su modelo base, incluidos los límites de ingresos