跳到主要內容
128GB 為什麼跑輸 RTX 5090:Spark 買到的是容量,不是頻寬
/閱讀約 5 分鐘/

128GB 為什麼跑輸 RTX 5090:Spark 買到的是容量,不是頻寬

DGX Spark 官方有 128GB 統一記憶體,頻寬卻只有 273GB/s。這篇對照官方規格,說明為什麼「塞得下 200B」跟「跑得過消費卡」不是同一件事,以及什麼工作流才該買容量。

目錄+

NVIDIA 官方規格把兩件事寫在同一頁:DGX Spark 有 128 GB 統一記憶體,記憶體頻寬只有 273 GB/s。行銷頁讓你先看到 128GB,再看到「推理到 200B」。真正決定你等不久的,是後面那個比較小的數字。

這跟系列第 1 篇對過的三層主機是同一條線。這篇只拆 Spark:為什麼「塞得下」跟「跑得快」被拆開賣。

DGX Spark 的頻寬到底有多慢?

記憶體頻寬是單位時間能搬多少資料。 大語言模型在生成下一個 token 時,幾乎要把整份權重掃過一遍;掃得慢,token 就慢。容量決定模型進不進得去,頻寬決定它走得快不快。

官方規格表寫死了:

  • 系統記憶體:128 GB LPDDR5X,CPU 與 GPU 共用
  • 記憶體介面:256-bit
  • 記憶體頻寬:273 GB/s
  • FP4 理論峰值:最高 1 petaFLOP(含稀疏)

同頁的 DGX Station 把對照寫得更刺眼。Station 的 CPU 側 LPDDR5X 是 396 GB/s,GPU 側 HBM3e 是 7.1 TB/s。Spark 的 273 GB/s 連 Station 的 CPU 記憶體都追不上,跟 HBM 差二十倍以上。

官方記憶體頻寬(GB/s),來源:NVIDIA Spark / Station 規格頁

消費級高階卡走的是 GDDR,頻寬落在每秒數 TB 的量級。這就是標題那句話的來源:Spark 不是算力輸給 RTX 5090,是搬權重的速度不在同一個階級。

「你買到的是塞得下,不是跑得快。」

128GB 統一記憶體在買什麼

Spark 不是普通桌機加一張卡。CPU 跟 GPU 共用同一塊 128GB,中間沒有 PCIe 搬資料。官方工作負載切三刀:微調到 70B、單機推理到 200B、兩台用 ConnectX-7(200 Gbps)串到 405B。

這三個數字賣的都是容量上限,不是 token 速度。200B 進得了 128GB,不代表它會比一張 32GB 或 48GB、但頻寬高一個數量級的卡更快。站內DGX Spark 跑 Nemotron 3 Nano Omni 看的是實際吞吐;那篇數字成立,恰恰因為測的是進得去的小模型,不是 200B 滿載。

NVIDIA 自己也把 Spark 定位成 Desktop Agent Computer:240W 電源、GB10 TDP 140W、1.2 公斤,設計目標是永遠開著的本地 agent,不是拿來刷生成速度的遊戲卡。2026 年軟體更新強調的是 NemoClaw、OpenShell、最高 1.9 倍推理加速——加速的是軟體棧,不是把 273 GB/s 變成 HBM。

誰該買容量,誰該買頻寬

需要 Spark 的人,工作流卡在「模型進不去自己的機器」:資料不能上雲、要常駐 70B 到 200B、或要把同一套 CUDA / NIM / Playbook 從書桌接到機房。這條線在CUDA-X 護城河裡寫過——硬體換代很快,軟體鎖定比較慢。

只是想本地跑量化 70B、在意的是每個 token 出來的速度,一張 48GB 工作站卡通常更合理。麗臺 RTX PRO 5000 Blackwell 對應的就是這個層級:容量夠塞 70B,頻寬走的是顯示卡那一套,不是 LPDDR。

利益揭露:本文部分連結為聯盟連結,點擊購買我會獲得回饋,不影響你的價格。文中硬體以公開規格與適用情境描述,不是第一人稱實測。

下一篇把 Station 的 748GB 拆開:那不是縮小版 GB300。

常見問題

DGX Spark 記憶體頻寬是多少? NVIDIA 官方規格是 273 GB/s,走 256-bit 的 LPDDR5X。容量是 128GB 統一記憶體,兩個數字要分開看。

為什麼 128GB 還是跑不快? 大模型吐 token 多半卡在把權重從記憶體搬進計算單元。容量決定模型塞不塞得下,頻寬決定每個 token 要等多久。Spark 賣的是前者。

DGX Spark 能跑多大的模型? 官方工作負載是微調到 70B、單機推理到 200B;兩台 Spark 用 ConnectX-7(200 Gbps)串起來可到 405B。

只想本地跑量化 70B,該買 Spark 嗎? 多數情況不用。48GB 工作站卡通常就夠,而且 GDDR 頻寬比 Spark 的 LPDDR5X 高一個數量級。

Spark 讓個人第一次在桌上塞進資料中心級的模型。問題不是 128GB 夠不夠大,是你的工作流缺的到底是空間,還是速度。