拡散モデル(Diffusion model)
拡散モデルはランダムなノイズから出発し、ノイズを一歩一歩取り除いていくことで画像や動画を生成します。
FLUX、Qwen-Image、Wan、LTX をはじめとする多くのオープンな画像・動画生成モデルは拡散モデルで、多くは Transformer アーキテクチャを基盤として構築されます。テキストエンコーダはプロンプトを数値に変換し、各デノイジング(ノイズ除去)ステップを導きます。
蒸留版は、より少ないステップで済むように学習されています。たとえば FLUX 3 Image Klein は 16 ステップで動作し、一方その Base 版は 50 ステップを要し、ファインチューニング向けです。ステップが少ないほど画像は速く出ますが、通常はわずかな柔軟性を犠牲にします。
関連用語
- マルチモーダルモデル マルチモーダルモデルは、テキスト、画像、音声、動画など複数の種類のデータを、入力・出力のいずれか、またはその両方として扱えます。
- 蒸留(Distillation) 蒸留は、より小さな「生徒」モデルに大きな「教師」モデルを模倣させる学習手法で、サイズはごく小さく保ちながら教師の能力の多くを引き継げます。
- LoRA(低ランク適応) LoRA は「低ランク適応(low-rank adaptation)」の略称で、モデルの全パラメータを変更する代わりに、追加した少数の重みを学習することでファインチューニングを行います。