ユニファイドメモリ(Unified memory)
ユニファイドメモリは、Appleシリコンなど一部のチップが採用する設計で、CPUとGPUが1つのメモリプールを共有するため、大きなモデルがその大部分を使えます。
普通のPCでは、グラフィックスカードは容量の限られた独自のVRAMを持ちます。Appleシリコンを搭載したMacや、AMD Strix Halo、NVIDIA DGX Sparkなどのシステムでは、プロセッサとグラフィックスが1つのメモリプールを共有するため、128 GBのマシンは24 GBのグラフィックスカードでは収まらないモデルを載せられます。
代償は速度です。ユニファイドメモリは通常、高性能GPUのメモリより遅いため、大きなモデルも動きますが、1秒あたりのトークン数は少なくなります。本サイトの「大容量メモリデスクトップ」ティアは、この種のマシンを指します。