Trainium
AWS Trainium
時間軸
- 2026 年
- 2024 年
- Trainium 2 正式商用：採用 5nm 製程，運算效能提升 4 倍，能效提升 2 倍，推出 10 萬顆晶片規模的 Project Rainier 超級運算叢集。
- 2023 年
- 發表 Trainium 2：AWS re:Invent 正式揭露次世代自研 AI 晶片架構，專為數千億參數大型語言模型訓練最佳化。
- 2020 年
- 發表首代 Trainium：專為深度學習模型 訓練、推論 打造，補齊 Inferentia 之後的完整自研算力佈局。
- 2015 年
- 併購 Annapurna Labs：Amazon 斥資收購以色列晶片設計新創，確立 AWS 自研晶片、Nitro 系統 發展基礎。
概念股
| 供應鏈位階 | 產業鏈角色 | 公司 | 核心產品、業務 | 產業競爭利基、護城河 |
|---|---|---|---|---|
| 上游 | ASIC 設計服務、IP | 世芯-KY | Trainium 系列 晶片設計服務、後段實體設計 | AWS 核心 ASIC 設計合作夥伴，具備 先進製程、CoWoS 整合能力。 |
| Marvell | 雲端自研晶片架構、高速介面設計 | 具備 先進運算 Die、客製化晶片 整合技術。 | ||
| 晶圓製造、先進封裝 | 台積電 | 先進製程晶圓代工、CoWoS-S 先進封裝 | 全球 先進邏輯製程、高階 AI 晶片封裝 唯一首選代工夥伴。 | |
| 中游 | 高階 IC 載板 | 欣興 | 大面積 ABF 載板 | 具備 超大面積、高層數 載板量產能力。 |
| 伺服器機殼、機構件 | 勤誠 | AWS 伺服器專屬機架機殼 | 具備 客製化伺服器機構設計、大規模交貨 能力。 | |
| 下游 | 伺服器組裝 ODM | 緯穎 | AWS AI 伺服器整機、機架系統 整合 | Amazon 主要白牌伺服器供應商，專精雲端資料中心客製化系統。 |
| 廣達 | 旗下雲達提供大型 AI 機架伺服器製造 | 具備領先之 雲端運算、液冷伺服器 整機整合製造經驗。 |
- 世芯-KY：長期主導 Trainium 系列晶片之 後段實體設計 (Physical Design)、CoWoS 封裝設計、量產投片 支援。
- Marvell：參與 AWS 自研 ASIC 晶片之 高速 I/O、運算單元 設計。
- 台積電：以 7nm、5nm、3nm 製程代工 Trainium 晶片，並提供 CoWoS 先進封裝整合海量 HBM 記憶體。
- 欣興：供應 大尺寸、高層數 ABF 載板，支援多晶片先進封裝之高密度訊號引出。
- 勤誠：負責 AWS 專屬伺服器 機箱、運算托盤、儲存模組 機構件製造。
- 緯穎：AWS 核心 ODM 夥伴，負責 Trainium AI 伺服器 主機板組裝、整機系統集成、雲端資料中心直配。
- 廣達：透過子公司雲達提供 大型 AI 伺服器、水冷 機櫃 系統解決方案。
定義
- 產品本質：Amazon 旗下雲端運算服務商 (AWS) 專為大型深度學習模型 訓練、高效推論 自研的專用 積體電路 (ASIC) 加速器。
- 研發核心：由 AWS 旗下 Annapurna Labs 晶片設計團隊主導開發，搭配 Neuron SDK 軟體開發套件，無縫整合於 EC2、SageMaker 生態系。
- 戰略定位：降低對第三方 GPU 供應商 (Nvidia) 的單一依賴，大幅壓低 AI 算力基礎設施 TCO (總擁有成本)，並提供客戶高性價比的雲端 AI 運算選項。
硬體架構、叢集擴展能力
- 專用運算核心：搭載高效能 NeuronCore 運算單元，原生支援 FP8、BF16、FP16 等低精度數值格式，並內建 張量運算、矩陣乘法 加速引擎。
- 超大規模超集群 (UltraCluster)：透過 EFA (Elastic Fabric Adapter) 專屬高速網路互連技術，單一叢集可擴展至數萬甚至 10 萬顆 Trainium 晶片，提供百億億次 (Exaflop) 級別的 AI 訓練算力。
AWS 自研晶片生態系綜效
- 晶片矩陣分工：與 通用 ARM 處理器 Graviton、推論專用晶片 Inferentia、Nitro 虛擬化加速卡 形成深度協同架構。
- 軟硬體垂直整合：透過專用編譯器，與 PyTorch、TensorFlow 等主流開源框架整合，使用者無需大幅改寫模型程式碼即可完成遷移。
產業競爭、CSP 自研趨勢
- 雲端巨頭自研競爭：直接對標 Google TPU、Microsoft Maia、Meta MTIA，推動生成式 AI 算力從通用 GPU 轉向雲端客製化 ASIC 陣營競爭。
- 供應鏈價值鏈重構：帶動台灣 ASIC 設計服務、先進製程代工、白牌伺服器 ODM 族群長期受惠於 CSP 自研硬體浪潮。