基础模型(Base model)

基础模型是预训练的原始产物,还没有被教会遵循指令或对话,通常是微调的起点。

  • 模型与架构
  • 更新于

在海量文本上预训练,得到的是基础模型:它会续写文本,但不能可靠地回答问题或遵循指令。后训练,例如指令微调,往往还有强化学习,才把它变成大多数人使用的对话模型或“指令”模型。开发者如果同时发布基础模型,你就可以自己做后训练。

这个词的用法比较宽松。对语言模型来说,它指指令微调之前的检查点,例如 Thinking Machines 的 Inkling,就是作为供定制的基座发布的。对 Z-Image 这样的图像模型来说,“基础”指未蒸馏的模型:它更慢,但结果更多样,比快速的蒸馏版 Turbo 更适合作为微调的起点。

相关术语

  • 微调 微调是在你自己的示例上继续训练一个预训练模型,让它在特定任务、风格或领域里表现得更好。
  • 蒸馏 蒸馏是训练一个较小的“学生”模型去模仿较大的“教师”模型,用很小的体积保留教师的大部分能力。
  • LoRA(低秩适配) LoRA 是低秩适配的简称,它通过训练一小组新增的权重来微调模型,而不是改动模型的全部参数。
  • 强化学习(RL) 强化学习通过奖励好的结果来训练模型,例如答对问题或通过测试,而不是让模型去模仿示例文本。

全部术语