Scaling
規模擴展
定義
- 規模擴展 (Scaling)：透過調整 運算資源、系統架構，提升 系統算力、容量、運作效率。
AI 基礎設施比較
| 架構 | 主要範圍 | 核心目的 |
|---|---|---|
| Scale-Up | 同一高速互連域中的 GPU／XPU | 提升加速器間互連效能 |
| Scale-Out | 伺服器、機櫃之間 | 增加叢集整體算力 |
| Scale-Across | 資料中心之間 | 整合跨站算力 |
| Scale-In | 運算與周邊基礎設施之間 | 提升資料存取及管理效率 |
- 一般 IT 的 Scale-Up 指升級單機，AI 互連語境則著重多顆加速器的高速互連。
一般 IT：Scale-Up、Scale-Out 比較
| 項目 | Scale Up (垂直擴展) | Scale Out (水平擴展) |
|---|---|---|
| 擴展方式 | 升級單一機器硬體 | 增加多台機器 |
| 成本結構 | 初期便宜，但升級成本快速上升 | 單機成本低，總體擴展彈性高 |
| 可用性與容錯性 | 存在單點故障風險 | 多節點容錯，穩定性高 |
| 維護難度 | 架構單純，維護容易 | 架構複雜，維護與監控需成熟工具 |
| 彈性與可擴展性 | 有硬體極限，擴展有限 | 高度彈性，適合長期擴張需求 |
| 適用場景 | 中小企業、快速部署、單體應用 | 高併發服務、分散式系統、雲端平台 |
留言
留言載入中…