トップ　／　記事

ローカルLLMは何GBあれば動くのか ——「載るか」と「速いか」は別の数字で決まる

2026-10-23　合同会社バリイド

ローカルLLMの機種を選ぶとき、最初に分けて考えるべき数字が2つあります。モデルが「載るか」はメモリ容量で、「速いか」はメモリ帯域で決まります。この2つを混ぜると、高い機種を買ったのに目的のモデルが動かない、ということが起きます。

載るかは「総パラメータ」で決まる

モデルを動かすには、重み（パラメータ）をすべてメモリに置く必要があります。必要な容量はおおよそ次の式で見積もれます。

• 必要なメモリ ≒ 総パラメータ数 × 1パラメータあたりのビット数 ÷ 8 ＋ 会話の文脈を保持する分

たとえば Qwen3.8-Flash-Next は総パラメータ125B（1,250億）で、量子化したファイルでも約90GBあります。メモリ32GBの RTX 5090 には載りません。128GBの統合メモリを持つ Mac Studio M5 Max や DGX Spark なら載ります。

速いかは「アクティブパラメータ」と帯域で決まる

文章を1トークン生成するたびに、計算に使う重みをメモリから読み出します。読み出す量が少ないほど、また読み出す速さ（帯域）が大きいほど速くなります。

• 1トークンあたりに読む量 ≒ アクティブパラメータ数 × 1パラメータあたりのビット数 ÷ 8
• 速さの上限 ≒ メモリ帯域 ÷ 1トークンあたりに読む量

最近の大きなモデルの多くは MoE（Mixture of Experts）という構造で、総パラメータが大きくても、1トークンごとに使うのはその一部です。Qwen3.8-Flash-Next は総パラメータ125Bに対して、1トークンで使うのは6Bだけです。そのため、容量さえあれば帯域が中くらいの機種でも実用的な速さで動きます。

予測はどのくらい当たるか

この式に効率の係数をかけて、Mac Studio M5 Max（帯域 614GB/s）での Qwen3.8-Flash-Next の速度を予測すると約29 tok/s になります。第三者が公開している M5 Max 128GB での実測は33 tok/s で、差は約12%でした。当社はこの式を、機種ごとの速度の予測に使っています（誤差は±30%と見ています）。

機種選びへの当てはめ

• 32GB以下で足りるモデルなら、RTX 搭載の BTO 完成品のほうが速くて安い。 帯域が大きいためです
• 100GB級のモデルを使いたいなら、統合メモリの大きい機種が要る。 Mac Studio や DGX Spark を選ぶ理由は速さではなく容量です
• macOS は GPU が使えるメモリを既定で全体の約75%に制限しています。 設定で引き上げないと、載るはずのモデルが載りません

どのモデルをどの機種で動かすかは、用途別のモデル選定と機種とプラットフォームにまとめています。ご用途とご予算からは、構成を選ぶで機種と参考総額をその場で確認できます。