NPU
Neural Processing Unit
定義
- 全名:Neural Processing Unit,中文稱為神經網路處理器,專為加速人工智慧與機器學習任務設計的專用硬體。
- 本質:一種領域專用架構 (Domain-Specific Architecture),模擬人類神經元與突觸的運作方式,高效處理大量的矩陣乘加運算。
- 定位:電腦的「右腦」,負責圖像識別、語音處理等直覺感知型任務,與負責邏輯運算的 CPU (左腦) 分工。
核心架構特色
- 專用電路:捨棄通用計算的靈活性,針對深度學習演算法 (Deep Learning) 的數學邏輯進行硬體層級的固化與優化。
- 矩陣運算:針對神經網路核心的乘法累加運算 (MAC) 進行極大化加速,效率遠高於通用處理器。
- 資料流驅動:採用 Data-Driven Parallel Computing 模式,減少指令解碼與控制的開銷。
- 能效比極高:在執行 AI 推論 (Inference) 時,能耗僅為 GPU 的數分之一,特別適合電池供電的邊緣裝置。
主要應用領域
- 手機攝影:即時背景虛化、夜景降噪、物件識別與場景優化 (如 Google Pixel 或 iPhone 運算攝影)。
- 生物辨識:Face ID 人臉解鎖、指紋辨識及聲紋分析。
- 智慧物聯網 (AIoT):監控攝影機的人形偵測、智慧音箱的語音喚醒詞識別。
- 自動駕駛:即時分析道路影像、辨識行人車輛與交通號誌。
- AI PC:在筆電本機端執行生成式 AI 助理 (Copilot)、即時會議降噪與背景替換。