ローカルLLM 実行計画の実測で、本PCの制約はすべて VRAM 4GB に集約されることが分かった。 9Bクラスで 8 tok/s、20B MoE で 5.9 tok/s、コンテキストは 8192 が上限——いずれもここから来ている。 この制約を金銭で解決する選択肢として、HP のキャンペーン製品を検討する。 購入を勧めるものではなく、判断材料を並べる目的の文書である。
| 項目 | 内容 |
|---|---|
| プロセッサ | NVIDIA GB10 Grace Blackwell Superchip（Arm Cortex-X925 ×10 ＋ Cortex-A725 ×10） |
| メモリ | 128GB LPDDR5x（オンボード・CPUとGPUで共有する統合メモリ） |
| ストレージ | 4TB PCIe 4.0 x4 NVMe SSD |
| OS | NVIDIA DGX OS 7（Ubuntu ベース） |
| AI 演算性能 | 最大 1,000 TOPS（低精度演算での値） |
| サイズ | 150 × 150 × 51 mm（手のひらサイズ） |
| 保証 | 1年（センドバック） |
| 項目 | 金額・条件 |
|---|---|
| HP希望販売価格 | ¥2,125,200（税込）〜 |
| キャンペーン価格 | ¥998,800（税込） |
| 割引 | ▲¥1,126,400（約 53% オフ） |
| 台数 | 500台限定（予定数達成で終了） |
メーカーが挙げているのはエッジAI、コンピュータービジョン、AIモデルの開発・プロトタイピング、機械学習推論。 個人が大きなモデルをローカルで動かす用途は、想定の中心ではないが、 128GB という容量はまさにそこで効いてくる。
計画書 第10章で確認したとおり、LLM の生成速度は1トークンごとにモデル全体の重みをメモリから読み出す時間で決まる。 つまり効くのは容量ではなくメモリ帯域である。4Bクラスが系列を問わず 56 tok/s で頭打ちになったのも、これが理由だった。
| 項目 | 現環境 RTX 3050 Ti Laptop | ZGX Nano G1n | 倍率 |
|---|---|---|---|
| 使えるメモリ | 3.21 GB（実測） | 約 120 GB | 約 37倍 |
| メモリ帯域 | 約 192 GB/s | 約 273 GB/s | 約 1.4倍 |
| 4Bクラスの速度 | 56.5 tok/s（実測） | 推定 70〜80 tok/s | 約 1.3倍 |
上記の帯域は公称スペックからの概算である。現環境の 192 GB/s も理論値で、 計画書の実測（56.5 tok/s）から逆算すると実効効率は7割程度。ZGX 側も同様の効率と仮定して推定している。 実機で測っていない値
帯域 273 GB/s、実効効率7割と仮定した粗い試算。密モデルは「サイズ÷帯域」でおおよそ決まる。
| モデル | Q4 のサイズ | 現環境 | ZGX（推定） |
|---|---|---|---|
| Qwen3-4B（密） | 2.3 GB | 56.5 tok/s | 70〜80 tok/s |
| gemma-4-E4B | 5.0 GB | 45.2 tok/s | 55〜65 tok/s |
| Qwen3.5-9B（密） | 5.2 GB | 8.1 tok/s | 30〜35 tok/s |
| gemma-4-12B（密） | 6.9 GB | 未測定（低速） | 25〜28 tok/s |
| Qwen2.5-Coder-14B（密） | 8.4 GB | 未測定（低速） | 20〜23 tok/s |
| gpt-oss-20b（MoE） | 11.3 GB | 5.9 tok/s | 50〜70 tok/s |
| Qwen3-30B-A3B（MoE） | 18 GB | 動かない | 50〜70 tok/s |
| 70B クラス（密） | 約 40 GB | 動かない | 4〜5 tok/s |
| 200B クラス（密） | 約 110 GB | 動かない | 1.5〜2 tok/s |
表で突出しているのは MoE の行である。計画書 第7章で整理したとおり、 MoE は総パラメータをメモリに置く必要がある一方、毎トークン読むのは active な一部だけ。
| モデル | 総 / active | 現環境で起きていること | ZGX なら |
|---|---|---|---|
| gpt-oss-20b | 21B / 3.6B | 11.3 GB が RAM 15.8 GB を圧迫し、エキスパートをCPUに逃がして 5.9 tok/s | 全部がメモリに収まり、読むのは 3.6B 相当だけ |
| Qwen3-30B-A3B | 30B / 3B | Q4 の 18 GB が RAM に載らず起動できない | 余裕をもって収まる |
計画書 第7章では「Qwen3-30B-A3B を IQ2_M（約11GB）まで落とせば RAM 16GB に収まるかもしれない」という 苦しい検討をしていたが、128GB あれば Q4 のまま置ける。品質を落とす必要がなくなる。
| 選択肢 | 使えるメモリ | 帯域（概算） | 価格帯 | 性格 |
|---|---|---|---|---|
| HP ZGX Nano G1n | 約 120 GB | 約 273 GB/s | 約 100 万円 （キャンペーン） | 容量で殴る。大きいモデルが載る。速度は控えめ |
| RTX 5090 搭載PC | 32 GB | 約 1,790 GB/s | 60〜90 万円 | 速度で殴る。32GB に収まる範囲なら圧倒的に速い |
| Mac Studio （M4 Max 128GB） | 約 120 GB | 約 546 GB/s | 70〜90 万円 | 容量と帯域のバランスが良い。帯域は ZGX の2倍 |
| RTX 3090 中古 ×2 | 48 GB | 約 936 GB/s | 30〜40 万円 | 費用対効果は高いが、消費電力と設置の手間が大きい |
| 現状維持 | 3.21 GB | 約 192 GB/s | 0 円 | 4Bクラスなら 56 tok/s で不足はない |
同じ 128GB クラスで、帯域は Mac の方が約2倍。同じモデルを動かすなら Mac の方が速い。 価格帯も近い。ZGX が優位に立つのは以下の点になる。
逆に推論だけが目的なら、Mac Studio の方が素直に速い可能性が高い。
32GB に収まるモデル（30B 密の Q4、70B の低ビット量子化まで）なら、5090 は ZGX の6倍以上の帯域で圧倒する。 32GB を超えるかどうかが分水嶺で、超えないなら 5090、超えるなら ZGX という切り分けになる。
GB10 の CPU 部は Arm（Cortex-X925 / A725）。x86 用のバイナリは動かない。
| 今使っているもの | 移行時にどうなるか |
|---|---|
llama-b10612-bin-win-cuda-12.4-x64 | 使えないWindows x64 版。Linux arm64 版を取り直す |
scripts\*.cmd | 使えないシェルスクリプトに書き直す |
| GGUF モデル本体 | そのまま使えるアーキテクチャ非依存の形式 |
| LM Studio | 要確認Linux arm64 版の提供状況次第 |
| 計画書の知見 （ -ngl / --n-cpu-moe の考え方） | 前提が変わる統合メモリなので「GPUに何層載せるか」という発想自体が薄れる |
DGX OS 7 は Ubuntu ベース。Windows 環境ではなくなるため、 既存の作業フロー（PowerShell スクリプト、Windows 上の他ツールとの連携）はそのまま持ち込めない。 LAN 越しにサーバとして使い、手元の Windows から API で叩く構成が現実的と思われる。
現環境では「VRAM 4GB に何を載せるか」が計画の中心だったが、 統合メモリでは CPU と GPU が同じ 128GB を共有する。 計画書 第6章の VRAM 配分の議論は、そのままの形では引き継がれない。 一方で「帯域が速度を決める」という原則は変わらないため、第10章の分析はそのまま通用する。
| 動機 | 内容 |
|---|---|
| 強いMoE を本気で使う | Qwen3-30B-A3B クラスが Q4 のまま 50〜70 tok/s で動く。現環境では起動すらできない領域 |
| 強い学習・ファインチューニング | 推論だけなら他の選択肢もあるが、CUDA での学習となると 128GB は大きな武器になる |
| 中長いコンテキスト | 現在 8192 が上限。統合メモリなら KV キャッシュの制約がほぼ消える |
| 中価格 | 53% オフは大きい。ただし 500台限定で、判断を急がされる構造でもある |
| 懸念 | 内容 |
|---|---|
| 強い今のモデルは速くならない | 常用している 4B は 56 → 70 tok/s 程度。100万円の対価としては薄い |
| 強い用途が未確定 | 計画書 第9章の時点で「常用する用途」は未定のまま。何に使うかが決まる前の投資になる |
| 中帯域では Mac に劣る | 推論用途に絞れば Mac Studio の方が約2倍速い。同価格帯 |
| 中環境の作り直し | Arm ＋ Linux。今回組んだ Windows の環境とスクリプトは引き継げない |
本書で結論は出さない。判断するとしたら、順序は次のようになる。