微调

微调是在你自己的示例上继续训练一个预训练模型,让它在特定任务、风格或领域里表现得更好。

  • 使用模型
  • 更新于

你不必从零开始训练,而是拿一个开放模型,用小得多的数据集对它做调整,比如你的客服工单或某种特定的写作风格。LoRA 等方法只更新一小组额外的权重,因此用一张 GPU 就能微调。

能否微调模型并分享结果,取决于它的许可证。Apache 2.0 等宽松许可证允许这样做,其他许可证则会附加条件,例如命名要求或营收上限。微调需要的内存也比推理多,因为训练要为每个参数额外存储数据。

相关术语

  • LoRA(低秩适配) LoRA 是低秩适配的简称,它通过训练一小组新增的权重来微调模型,而不是改动模型的全部参数。
  • 蒸馏 蒸馏是训练一个较小的“学生”模型去模仿较大的“教师”模型,用很小的体积保留教师的大部分能力。
  • 开放权重 开放权重模型是指公开了训练得到的参数(即权重)的 AI 模型,任何人都可以下载并运行,通常附带一份规定使用条件的许可证。

继续阅读

全部术语