Axolotl
YAML 파일 하나로 구동되는 무료 파인튜닝 프레임워크. LoRA, QLoRA, 선호 조정, MoE용 NVFP4·전문가 병렬 학습 지원.
Axolotl은 대규모 언어 모델의 사후 학습(post-training)과 파인튜닝을 위한 무료 오픈소스 도구입니다. YAML 설정 파일 하나로 데이터셋 전처리, 학습, 평가, 양자화, 추론까지 다룹니다. README에 나열된 학습 방법은 풀 파인튜닝, LoRA, QLoRA, 양자화 인식 학습(int8, int4, FP8, NVFP4, MXFP4), 선호 조정(DPO, IPO, KTO, ORPO), 강화 학습(GRPO, GDPO), 그리고 비전-언어 및 오디오 모델의 멀티모달 학습입니다.
README의 업데이트 로그는 새 공개 모델이 나오면 곧바로 지원을 기록하며, Gemma 4, Qwen3.6, Mistral Large 4, Reflection의 Beam, MiniCPM5, Muse Glimmer 등이 있고, 전문가 혼합(MoE) 모델을 위한 전문가 병렬 및 NVFP4 LoRA 학습도 제공합니다. FSDP2, DeepSpeed, 컨텍스트 병렬을 통한 분산 학습을 지원하며, axolotl export로 모델을 GGUF로 내보내 llama.cpp와 Ollama에서 쓸 수 있습니다.
README는 요구 사양으로 NVIDIA GPU(bf16과 Flash Attention에는 Ampere 이상) 또는 AMD GPU, Python 3.12 이상, 최신 PyTorch를 제시하고, Docker 이미지와 PyPI 패키지도 제공합니다. 라이선스는 Apache 2.0이며, 파인튜닝한 모델에도 출발점인 베이스 모델의 라이선스가 그대로 적용됩니다.
적합한 용도
- 설정 파일로 재현 가능한 파인튜닝 실행
- GPU 한 장에서의 LoRA와 QLoRA, 또는 멀티 GPU·멀티 노드 학습
- 전문가 병렬과 NVFP4 LoRA 학습으로 새로운 MoE 모델 파인튜닝
- 파인튜닝한 모델을 GGUF로 내보내기
주의할 점
- NVIDIA GPU(bf16과 Flash Attention에는 Ampere 이상) 또는 AMD GPU 필요
- README는 Python 3.12 이상과 최신 PyTorch를 요구하므로 새 환경이나 Docker 이미지 사용
- 파인튜닝한 모델은 수익 제한을 포함해 베이스 모델의 라이선스를 그대로 물려받음