テキストエンコーダー(Text encoder)
画像や動画の生成モデルでは、テキストエンコーダーはプロンプトを生成器が使える数値に変える独立した言語モデルであり、ダウンロード量とメモリ使用量を増やします。
画像生成器は通常、複数の部品からなるパイプラインです。テキストエンコーダーがプロンプトを読み、拡散Transformerが圧縮された空間の中で絵を作り、オートエンコーダー(VAE)が結果をピクセルに変換します。テキストエンコーダーは多くの場合フルの言語モデルなので、モデルのパラメータ数はダウンロードすべきものを過小に見せることがあります。
MOSS-Imageの生成器は5Bですが、リポジトリは27.2 GBあり、そのうち16.8 GBはQwen3.5-9Bのテキストエンコーダーです。Z-Imageの6B生成器には8 GBのテキストエンコーダーが付き、Qwen-Image-2.1の8Bエンコーダーでパイプライン全体は約33 GBになり、MiniMax H3-Imageの66.7 GBエンコーダーは他のファイル全体とほぼ同じ大きさです。Animaは逆の例で、5.6 GBのパイプラインの中に1.19 GBのエンコーダーがあります。メモリを計画するときはエンコーダーを生成器に加算し、多くのツールはエンコーダーがプロンプトを読み終えた後にそれをオフロードしたり解放したりできることも覚えておいてください。
関連用語
- 拡散モデル(Diffusion model) 拡散モデルはランダムなノイズから出発し、ノイズを一歩一歩取り除いていくことで画像や動画を生成します。
- パラメータ パラメータはモデル内部にあって学習時に調整される数値で、その数(7B や 70B など)がモデル規模の一般的な指標になります。
- VRAM VRAMはグラフィックスカード上のメモリです。重みをメモリに収めないとモデルは速く動かないため、GPUがどのモデルを載せられるかはVRAMで決まります。