Unsloth
通过桌面应用、网页界面或代码运行和微调开放模型,支持导出 GGUF,并对许多新发布的模型首日适配。
Unsloth 是一个用于运行和训练开放模型的项目。它有三种使用方式:Unsloth Desktop(桌面应用)、Unsloth Studio(网页界面)和 Unsloth Core(面向脚本和 Notebook 的代码包)。它涵盖语言、MLX、GGUF、扩散、嵌入和音频模型,文档紧跟新发布的模型,包括 Qwen3.8、GLM-5.3-Flash、Kimi K3、Qwen-Image-2.1、DeepSeek V4 和 Gemma 4。
在训练方面,你可以用自己的数据微调模型,用其 Data Recipes 功能从 PDF、CSV 和 Word 文件构建数据集,再把结果导出为 GGUF、NVFP4、FP8 等格式用于部署。它可运行在 Windows、Linux、WSL 和 macOS 上,支持多 GPU、NVIDIA、AMD 和 Intel GPU、CPU 以及 Vulkan。
Unsloth 采用双重许可。核心包为 Apache 2.0,而 Studio 界面等可选组件为 AGPL-3.0,后者要求你把通过网络提供给用户的修改版本的源码共享出来。围绕它构建产品之前,请先确认你使用的是哪一部分。
适合做什么
- 不用集群,在自己的数据上微调小型或中型开放模型
- 为本地使用准备模型,例如导出 GGUF 文件
- 喜欢用图形界面做训练实验的人
需要注意
- 如果你把 Studio 界面作为服务提供,Apache 2.0 与 AGPL-3.0 的区分就很重要
- 微调仍然需要足够的 GPU 显存来容纳所选模型
- 项目变化很快,发布版本目前仍标注为测试版