NVLink

定義

• NVIDIA 所研發的高速互連技術，用於 GPU、CPU 間的資料傳輸，目的是提供比 PCIe 更快的通訊能力。
• NVLink-C2C (Chip-to-Chip)：
  • 為晶片間 (如 GPU-DPU、GPU-CPU) 的一致性互連設計。
  • 延遲更低、能效更高、面積利用更佳。
  • 相較 PCIe Gen 5：
    • 能效提升 25 倍
    • 面積效率提升 90 倍

核心特點

• 高帶寬：
  • 每條連接最高支援數百 GB/s，遠高於 PCIe 標準。
• 低延遲：
  • 適合需要高頻資料交換的運算密集型應用。
• 可擴展性：
  • 多 GPU 可透過 NVLink 網狀結構互連，構成大型 GPU 集群。

主要應用

• 高效能運算 HPC:
  • 用於超級電腦的 GPU 間高速通訊。
• AI 深度學習訓練：
  • 支援大型模型的快速訓練與推論。
• 資料中心：
  • GPU 伺服器間資料交換與分散式運算加速。

版本演進

• NVLink 3.0+：每連接達 50 GB/s，並增強錯誤修正能力。
• NVLink 2.0：帶寬提升至 25 GB/s。
• NVLink 1.0：單連線帶寬 20 GB/s。

發展前景

• 與自研 CPU、DPU 整合緊密，有利 NVIDIA 打造自有計算平台。
• 應用領域擴展至雲端與邊緣計算，為未來資料密集型應用提供基礎設施支援。
• 持續挑戰 PCIe 成為新一代標準互連技術的有力競爭者。