NVIDIA 資料中心傳輸方案光銅並行策略

☘️ Article

癌大觀點

• jensen on copper and optics
• 事實上本來就是光銅並行，但產業人士喊破喉嚨也抵不過股市氣氛仔最愛的踩 A 捧 B 敘事方式，這樣才夠聳動
• 在短距離 1-2m 的狀況下銅有巨大優勢，scale up 到 576 或 cross racks 甚至更遠就是 optics
• 比較合理的評論是 TAM 兩邊都增長，但 optics 的乘數會更高因為加速度快年增率高

• “There’s a lot of conversation about, is NVIDIA going to copper scale-up or optical scale-up?"
• ...We’re going to do both.
• ...For the first time, we will scale up with both copper and co-packaged optics.”
• ...Oberon is copper scale-up.”
• ...With Oberon, we could also use optical scale-up to expand to NVLink 576.”
• ...We’re going to have NVLink 144 with Kyber.”
• ...With Oberon, we’re going NVLink72 plus optical to get to NVLink 576.”
• ...Is copper going to still be important? The answer is yes.”
• ...Are you going to scale up optical? Yes.”
• ...Are you going to scale out optical? Yes.”
• ...We need a lot more capacity for copper. We need a lot more capacity for optics. We need a lot more capacity for CPO。”

✍️ Abstract

NVIDIA 資料中心傳輸方案：光銅並行策略

• NVIDIA 執行長黃仁勳表示，公司在資料中心擴展上將同時採用銅線與光學傳輸技術。
• 在短距離 (1 至 2 公尺) 的傳輸情境下，銅線具備成本與效率的巨大優勢。
• 當系統需要擴展至 NVLink 576 或進行跨機櫃連接時，則會切換至光學方案。
• NVIDIA 計畫在 Oberon 架構中透過銅線進行縱向擴展，並結合光學技術實現更深層的互連。
• 未來市場對於銅線、光學組件以及共同封裝光學 (CPO) 的產能需求都將顯著提升。

癌大觀點分析

• 產業內部事實上一直都是光與銅並行，但股市炒作氣氛往往喜歡塑造踩一捧一的聳動敘事，以吸引注意。
• 在短距離 1-2m 的狀況下，銅線具備極大優勢；當需要 scale up 到 576 或 cross racks 甚至更遠距離時，就是 optics 的天下。
• 較合理的評論是兩者的市場規模 (TAM) 都會成長，但 optics 的乘數會更高，因為其加速度快且年增率高。
• NVIDIA 將同時採用銅線與光學技術進行擴展，這在公司發展上是首次同時併行，兩者都極具重要性。

專有名詞

• NVLink：由 NVIDIA 開發的一種高速點對點連結技術，專為 GPU 之間的高頻寬通訊設計，旨在克服傳統 PCIe 介面的頻寬瓶頸。
• TAM：Total Addressable Market 的縮寫，中文譯為總體有效市場，指某項產品或服務在理想狀態下所能觸及的最大市場商機。
• CPO：Co-Packaged Optics 的縮寫，中文為共同封裝光學。這是一種將光學引擎與交換晶片封裝在同一個封裝體內的技術，旨在降低功耗並提升資料傳輸效率。
• Scale-up：縱向擴展，指在單一系統或機櫃內透過增加硬體組件 (如更多 GPU) 來提升運算能力。
• Scale-out：橫向擴展，指透過增加更多獨立的伺服器節點並將其聯網，以擴大整體運算叢集的規模。
• Oberon / Kyber：NVIDIA 內部針對不同資料中心架構或互連方案的專案代號，分別對應不同的 NVLink 配置與傳輸介質組合。