ローカルLLMに必要なVRAMは？16GB・24GB・32GBのメモリ計算ガイド

1. GPUを選ぶ前に実行条件を決める

この記事は、PCで文章生成LLMの推論を行う人向けの容量見積もりです。推論とは、学習済みモデルを使って回答を生成する処理を指します。モデル全体の学習、ファインチューニング、画像・動画生成では必要なメモリの内訳が異なります。ここで示す数字をそのまま流用せず、まずモデルと利用条件を明確にしてください。

• モデル名、リビジョン、総パラメータ数を記録します。8Bは約80億パラメータです。
• ダウンロードするファイルの量子化形式と、実行ソフトの対応状況を確認します。
• 入力と出力それぞれの最大トークン数、同時リクエスト数を決めます。
• モデル全体をGPUに載せるか、一部をシステムRAMへ移すかを区別します。

短い質問を一件ずつ処理するチャットと、長い報告書を何件も同時に要約する処理では、同じモデルでも条件が変わります。「読み込めた」と「実務で最も長い入力を最後まで処理できた」は別々に判定しましょう。文字数からトークン数への換算は言語によって変わるので、実際のトークナイザーで数えることが大切です。

2. 重みの容量を計算し、実行用メモリと分ける

すべての重みを同じビット数で保存すると仮定した式は「パラメータ数 × ビット数 ÷ 8 = バイト数」です。次の値は編集部による理論計算であり、実測ベンチマークではありません。GBは10億バイト、GiBは1,073,741,824バイトです。製品の容量表示と測定ツールの単位をそろえて比較してください。

• 8B：16ビットで16GB（約14.90GiB）、8ビットで8GB（約7.45GiB）、4ビットで4GB（約3.73GiB）。
• 14B：16ビットで28GB（約26.08GiB）、8ビットで14GB（約13.04GiB）、4ビットで7GB（約6.52GiB）。
• 32B：16ビットで64GB（約59.60GiB）、8ビットで32GB（約29.80GiB）、4ビットで16GB（約14.90GiB）。

実際の量子化ファイルにはスケールなどの付加情報があり、一部のテンソルが高い精度で保持される場合もあります。Hugging Faceのbitsandbytes文書は4・8ビット量子化と計算用データ型を区別しています[1]。「4ビット」は、すべての演算やメモリが4ビットになるという意味ではありません。ダウンロード容量だけで実行時のピークを判断しないでください。

3. 長いコンテキストと同時処理の余裕を確保する

必要量は「読み込んだ重み + KVキャッシュ + 一時作業領域 + 画面表示や他のアプリ + 運用上の余裕」に分けると見落としを防げます。KVキャッシュは生成処理の中間情報を保持します。Hugging Faceは長いコンテキストでキャッシュがメモリの制約になり得ること、CPUへの移動には速度と容量のトレードオフがあることを説明しています[2]。

仮の例として、重みが9GiB、目的のリクエストでキャッシュと作業領域が5GiB、画面表示などが1GiBなら合計15GiBです。説明用に2GiBの余裕を加えると17GiBになります。この条件では16GBクラスで足りると考えるより、24GBクラスを試す理由があります。各数値も2GiBの余裕も仮定であり、全モデル共通の推奨値ではありません。

コンテキスト長や同時処理数を変えたら再測定してください。キャッシュ構造を確認せずに「文脈を2倍にすれば総VRAMも必ず2倍」とは計算できません。ソフトがキャッシュを先に予約するかも確認しましょう。最長の実文書と必要な出力長を組み合わせたテストが、起動直後の測定より役立ちます。

4. 容量の候補をGpuPlusの商品に当てはめる

メーカー公式資料で、MSI RTX 5080 VANGUARD SOCの16GB GDDR7[3]、NVIDIA RTX 4090の24GB GDDR6X[4]、GIGABYTE AORUS RTX 5090 MASTERの32GB GDDR7[5]を確認しました。次の商品は容量別の実例であり、LLMの速度順位や特定モデルの動作保証ではありません。

• 16GBの例 — MSI RTX 5080 Vanguard SOC：実行全体の必要量が使用可能メモリに余裕を持って収まる場合の候補です。表示価格1,254 USDT、在庫0点。
• 24GBの例 — GIGABYTE RTX 4090 Gaming OC：16GBクラスでは必要な文脈と余裕を確保できない場合に検討できます。表示価格2,400 USDT、在庫8点。
• 32GBの例 — GIGABYTE AORUS RTX 5090 MASTER：24GBクラスを超える予算が必要な場合の候補です。すべての大規模モデルが入るわけではありません。表示価格3,255 USDT、在庫13点。

5. 再現できる実用チェックリスト

可能であれば、現在の機材や利用できるテスト環境で、同じモデル・ファイル・実行ソフトを使って検証します。他の利用者が公開した結果でも、条件が一致するかを確かめましょう。設定が違うトークン生成速度を、そのままGPUの差と解釈することはできません。

• モデルのリビジョン、ファイル名、量子化形式、実行ソフトとドライバーのバージョンを記録します。
• 不要なGPUアプリを終了し、読み込み前と直後のメモリ使用量を記録します。
• 最長入力と必要な最大出力で最後まで処理し、ピーク使用量を確認します。
• 同時処理が必要なら実際の件数で試し、メモリ不足エラーの有無を記録します。
• 最初の応答までの時間、生成速度、回答品質を別々に評価します。
• 更新後も同じ入力で再確認し、実測値と自分で設定した余裕を分けて残します。

6. 結論：容量を絞ってからソフトの対応を確認する

実測ピークと余裕の合計が使用可能容量に十分収まるなら16GBを候補に残し、超えるなら24GB、32GBへと検討を進めます。最終判断では、ツールに表示される使用可能メモリと単位を合わせてください。32GBクラスでも足りない場合は、小さいモデル、別の量子化設定、短い文脈、明示的に対応しているオフロードを検討するのが現実的です。

選ぶGPUに実行ソフトとドライバーの組み合わせが対応しているかも確認します。メーカーの容量仕様だけでは、ソフトウェアの動作条件は分かりません。この記事は公式文書と公開商品情報に基づく見積もりガイドです。実機レビューではなく、全モデルに共通する生成速度や性能倍率は示していません。

7. ローカルLLMのメモリでよく検索される質問

8. 出典と計算方法

確認日は2026年9月22日です。重みの数値はパラメータ数と保存精度から計算し、17GiBの例は仮の予算として作成しました。公式文書はメモリの原理と容量、GpuPlusの商品ページは商品名・価格・在庫の確認に使用しています。

• [1] Hugging Face Transformers — bitsandbytes: https://huggingface.co/docs/transformers/main/en/quantization/bitsandbytes
• [2] Hugging Face Transformers — Cache strategies: https://huggingface.co/docs/transformers/main/en/kv_cache
• [3] MSI — RTX 5080 16G VANGUARD SOC公式仕様: https://www.msi.com/Graphics-Card/GeForce-RTX-5080-16G-VANGUARD-SOC/Specification
• [4] NVIDIA — GeForce RTX 4090公式情報: https://www.nvidia.com/en-us/geforce/graphics-cards/40-series/rtx-4090/
• [5] GIGABYTE — AORUS RTX 5090 MASTER 32G公式仕様: https://www.gigabyte.com/Graphics-Card/GV-N5090AORUS-M-32GD/sp
• GpuPlus公開情報：下の関連商品ページ。2026年9月22日確認。