Small Outline Compression Attached Memory Module

時間軸

• 未來展望：
  • 預期採用 LPDDR6 的新一代 SOCAMM 平台逐步成熟，有機會重新提高單模組容量，以滿足高階 AI 運算需求。

2026 年

• Nvidia 新一代 Vera CPU 平台導入 SOCAMM2 架構。
• 缺貨應變：受限於 LPDDR5X 供應吃緊，單機 SOCAMM2 容量由 512GB 下修至 256GB，以容量換數量。

2025 年 9 月

• 傳出 Nvidia 放棄初代 SOCAMM1，跳級推進 SOCAMM2 架構 (推升至 9600 MT/s、支援 LPDDR6)。

2023 年底

• JEDEC 批准 CAMM2 標準，為 SOCAMM 奠定基礎。

定義

• 小型壓接式記憶體模組：是一種主要用於 AI 伺服器的可拆換記憶體模組規格，將 LPDDR 的 低功耗、高頻寬 特性結合壓接式模組設計，以改善傳統伺服器記憶體的 空間、功耗、頻寬 限制。

核心概念

• 將 LPDDR 導入伺服器：SOCAMM 主要採用 LPDDR5X，使原本常見於行動裝置的低功耗 DRAM 能應用於 AI 伺服器。
• 保留模組化能力：相較直接將 LPDDR 焊接於主機板，SOCAMM 可以 拆卸、更換，有利於 伺服器維修、記憶體配置。
• 採用壓接式連接：透過 Compression Attached 結構將模組壓接至主機板連接器，可降低模組高度，並縮短信號傳輸路徑。
• 定位為系統記憶體：主要提供 CPU 大容量、高頻寬 且低功耗的記憶體，不等同於直接配置於 GPU 附近的 HBM。

主要優勢

• 降低功耗：採用 LPDDR，可降低 AI 伺服器大量配置 DRAM 所產生的耗電。
• 提高頻寬：較短的電氣路徑有助於維持高速記憶體訊號完整性，支援更高的資料傳輸速率。
• 節省空間：模組體積較傳統 RDIMM 小，有利於高密度 AI 伺服器配置。
• 保留可維修性：將原本常直接焊接的 LPDDR 模組化，使記憶體可以更換，而不必連同主機板一起更換。

與 RDIMM 的差異

• 記憶體技術：SOCAMM 主要採用 LPDDR5X，RDIMM 主要採用 DDR5。
• 設計方向：SOCAMM 著重 高頻寬、低功耗、高密度，RDIMM 則是通用伺服器常見的模組化記憶體方案。
• 體積差異：Micron 2025 年 SOCAMM 模組尺寸約為 14 × 90 mm，約為標準 RDIMM 的 1/3。
• 功耗差異：Micron 表示，其 LPDDR5X SOCAMM 功耗約為 DDR5 RDIMM 的 1/3。
• 頻寬差異：Micron 表示相同容量下，其 SOCAMM 頻寬可達 RDIMM 的 2.5 倍以上。

與 HBM 的關係

• 定位不同：HBM 主要提供 GPU 所需的極高頻寬，SOCAMM 則著重 大容量、低功耗、模組化能力。
• 互補使用：AI 系統可同時配置 HBM、SOCAMM，由 HBM 處理高頻寬需求，SOCAMM 作為容量較大的系統記憶體。
• GB300 配置：Nvidia GB300 Grace Blackwell Ultra 以 HBM3E 作為 GPU 記憶體，同時使用 LPDDR5X SOCAMM 作為 Grace CPU 的系統記憶體。

SOCAMM2

• 第二代規格：SOCAMM2 是 SOCAMM 後續發展的版本。
• JEDEC 標準化：JEDEC 於 2026 年發布 JESD328，定義 LPDDR5／LPDDR5X SOCAMM2 的 電氣、機械 規格。
• AI 伺服器用途：SOCAMM2 延續 SOCAMM 的 高頻寬、低功耗、小型化、可更換 設計，主要面向 AI、資料中心 平台。
• Vera Rubin 導入：SK hynix 於 2026 年開始量產 192GB SOCAMM2，產品針對 Nvidia Vera Rubin 平台設計。

發展意義

• LPDDR 應用擴張：LPDDR 從 手機、筆記型電腦 等行動裝置，進一步進入 AI 資料中心。
• AI 記憶體開始分工：HBM 處理最高頻寬需求，SOCAMM 則補足 大容量、低功耗、模組化 的系統記憶體需求。
• 降低 AI 伺服器功耗：隨著記憶體容量增加，DRAM 功耗成為系統設計的重要限制，SOCAMM 因此具有更高的應用價值。

與 CAMM2 的區別

• SOCAMM 不等於 CAMM2：兩者都採用 Compression Attached 的壓接式概念，但 產品定位、應用市場 不同。
• CAMM2：主要是取代 SO-DIMM 的通用記憶體模組標準，常見於 筆記型電腦、部分工作站。
• SOCAMM：主要針對 AI 伺服器、資料中心 設計，著重 LPDDR、高頻寬、低功耗、高密度。
• 原筆記中的 筆記型電腦、SO-DIMM、使用者自行升級 等內容較屬於 CAMM2／LPCAMM2，不宜直接歸入 SOCAMM。