英偉達 Rubin 與 Rubin Ultra 最新進展、版本與價格

☘️ Article

孟恭觀點

• https://mp.weixin.qq.com/s/04tt45hSKG26mh5rTgyl9w

✍️ Abstract

產品進度

• Strata 投入量產：Rubin Strata 模組已於 2026 年 7 月底進入商業生產。
• Ultra 年底流片：Rubin Ultra 尚未定型，GPU 預計 2026 年 Q4 投片。
• Kyber 機架延後：量產時程推遲，將優先以多機架 Oberon 方案滿足市場。
• 多機架落地時程：類似 Polyphe 的方案預計 2027 年 H2 與 Rubin Ultra 共同推出。

規格演進

• Rubin 雙版本並行：標準版功耗 1,800 W，增強版功耗達 2,300 W 且預計 2026 年 Q4 供應。
• 4 GPU Ultra 挑戰：FP4 性能達 100 PF，但 封裝、系統設計 仍有難題。
• 封裝拼接推升成本：4 GPU 版本需完成 2 個雙 GPU 模組 CoWoS 封裝，再透過 ABF 載板、矽橋 拼接。
• 記憶體方案未定：Rubin Ultra 評估採用 192 GB HBM4、256 GB HBM4E、384 GB HBM4E。

系統架構

• 機架重新分工：Nvidia 拆分 運算機架、交換機架、儲存機架。
• KV Cache 外移：推動 CMX 架構，將長上下文資料移至最高 1.2 PB 的高速 eSSD。
• 減少 GPU 負擔：透過 Spectrum-X 交換機連接儲存與運算機架，降低 CPU、SoCAAM、HBM 的占用。
• 多機架頻寬提升：雙機架、四機架、八機架 的總頻寬達 4.1、8.2、16.4 PB/s。

成本與市場

• 模組 BOM 大增：雙 GPU Ultra 約 42,162 美元，4 GPU 高達 86,850 美元，遠高於 Rubin 的 27,536 美元。
• 記憶體成本驚人：HBM、SoCAAM 合計占 Rubin Ultra BOM 約 70%。
• ASP 恐達 17 萬美元：若維持 (75~80)% 毛利，雙 GPU Ultra 定價將比 Rubin Strata 高 30%。
• 推理成本成關鍵：客戶採用意願將取決於更低的單位 token 成本。
• 牽動廣泛供應鏈：HBM4E、先進封裝、高速交換機、光互聯、eSSD 皆受系統工程影響。

專有名詞

• Vera Rubin：Nvidia 的 AI 平台，文中區分 標準、增強 2 種功耗版本。
• Rubin Ultra：Rubin 的後續高規格平台，包含 雙 GPU、4 GPU 版本構想。
• Rubin Strata：Rubin 平台的模組，文章指出已於 2026 年 7 月底進入商業生產。
• HBM4E (High Bandwidth Memory 4E)：Rubin Ultra 討論中的高頻寬記憶體方案，容量可能為 256 GB／384 GB。
• KV Cache (Key-Value Cache)：長上下文 Agent 運行時需要保存的上下文資料，Nvidia 正嘗試將其從 GPU 顯存分離。
• CMX (Context Memory Storage)：沿著儲存池化方向發展的上下文記憶體儲存方案。
• BlueField 4 STX：支援 CMX 的儲存機架方案。
• Spectrum-X：連接 CMX 儲存機架、NVL72 運算機架 的交換網路。
• NVL72：文章用來比較 Rubin Ultra 多機架方案的運算機架系統。
• Kyber：Nvidia 路線圖中的機架方案，量產時程可能延後。
• Oberon：文章提到可能先於 Kyber 滿足市場需求的多機架方案。
• CoWoS (Chip-on-Wafer-on-Substrate)：用於封裝 Rubin Ultra GPU 模組的先進封裝技術。
• SoCAAM：與 HBM 一起構成 Rubin Ultra 主要 BOM 成本的記憶體相關元件。
• eSSD：儲存機架使用的高速固態硬碟，最高配置容量約 1.2 PB。
• BOM (Bill of Materials)：文章用來比較 Rubin、Rubin Ultra 模組的物料成本。
• ASP (Average Selling Price)：文章用來估算雙 GPU Rubin Ultra 的平均銷售價格。
• FP4：文章用來比較 Rubin、Rubin Ultra 推理性能的低精度數值格式。