ファインチューニング(Fine-tuning)
ファインチューニングは、事前学習済みモデルの学習を自分のサンプルで続けることで、特定のタスク、スタイル、分野でより良い振る舞いをさせます。
ゼロから学習する代わりに、オープンモデルを出発点として、はるかに小さなデータセットで調整します。たとえばサポートの問い合わせデータや、特定の文体などです。LoRA のような手法は少数の追加重みだけを更新するため、GPU 1 枚でもファインチューニングが可能です。
モデルをファインチューニングして結果を共有してよいかどうかは、そのライセンス次第です。Apache 2.0 のような寛容なライセンスでは許可されており、ほかのライセンスでは命名要件や収益上限などの条件が付くことがあります。ファインチューニングは推論よりも多くのメモリを必要とします。学習ではパラメータごとに追加のデータを保持するためです。
関連用語
- LoRA(低ランク適応) LoRA は「低ランク適応(low-rank adaptation)」の略称で、モデルの全パラメータを変更する代わりに、追加した少数の重みを学習することでファインチューニングを行います。
- 蒸留(Distillation) 蒸留は、より小さな「生徒」モデルに大きな「教師」モデルを模倣させる学習手法で、サイズはごく小さく保ちながら教師の能力の多くを引き継げます。
- オープンウェイト(Open weights) オープンウェイトモデルとは、学習済みのパラメータ(重み)が公開されている AI モデルで、誰でもダウンロードして実行できます。通常は利用条件を定めたライセンスが付きます。