為什麽要使用NPU而不是CPU或GPU？
為什麽要使用NPU而不是CPU或GPU？
目前，只有部份PC配備了神經處理單元（NPU）。在如今的科技環境中，CPU和GPU顯得有些過時，NPU作為一種新興的計算元件，正在迅速崛起。硬件制造商紛紛宣傳NPU的卓越效能，宣稱它將為電腦的AI任務帶來全新的可能性。
NPU是一種專為加速AI任務而設計的處理器，其主要目標是以低能耗的方式提升計算效率，助力新一代Windows應用程式的AI功能。雖然現在只有少數PC裝配了NPU，但其發展前景依然被廣泛看好。本文將深入探討NPU的相關資訊，以及它在電腦行業中的重要性。
NPU的定義與優勢
NPU，即神經處理單元，專為人工智能和機器學習任務最佳化。它的名稱來源於人工智能模型所使用的神經網絡，這是一種由大量相互連線的節點組成的復雜網絡，這些節點透過資訊傳遞相互作用。不同於GPU，NPU不需要額外購買或安裝，而是作為現代處理器平台的一部份，比如英特爾的CoreUltra、AMD的RyzenAI，以及高通的SnapdragonXElite和SnapdragonXPlus。如今的處理器通常整合了CPU、GPU和NPU三種元件。
過去，電腦主要依賴中央處理器（CPU）和圖形處理單元（GPU）來執行任務。盡管AIPC（配備NPU的電腦）仍然以此為基礎，但NPU的引入為AI計算帶來了新的機遇。CPU執行大部份任務，GPU雖然以圖形處理著稱，但也適用於其他計算密集型任務，比如加密貨幣挖礦和高效能AI模型執行。雖然GPU在這些領域表現優異，但其能耗非常高。
此時，NPU的優勢便凸顯出來。與CPU相比，NPU在處理AI任務時速度更快，但相較於GPU，其速度略遜一籌。NPU的電力消耗顯著低於GPU，能夠在進行AI計算時減少能耗，並且釋放CPU和GPU以處理其他任務，從而提升系統整體效能。
例如，在執行StableDiffusion等AI影像生成軟件時，如果您需要最大效能，GPU是首選。然而，有時候您可能需要執行的AI功能超出CPU的處理能力，但又不需要GPU的全部效能，特別是在使用筆記電腦時，您可能希望在不消耗大量電池電量的情況下利用AI功能。此時，NPU的引入能夠讓筆記電腦在本地執行AI任務，而不會產生過多熱量和電力消耗，同時也不會幹擾CPU和GPU正在處理的其他操作。
NPU的套用場景
即便您對人工智能本身並不感興趣，NPU也可以在其他領域大顯身手。例如，在2024年CES上，惠普展示了一款利用NPU執行影片串流媒體任務的遊戲串流媒體軟件，從而釋放GPU處理遊戲的資源。借助NPU的計算能力，這款串流媒體軟件在使用時不會占用任何GPU資源，並且速度比使用CPU處理同類任務快得多。
在AIPC上，作業系統和應用程式都能夠利用NPU的效能。例如，如果您的筆記電腦搭載IntelMeteorLake硬件，其內建NPU將允許您在任何應用程式中執行AI驅動的WindowsStudio效果，如背景模糊和眼神接觸等功能。微軟的Copilot+PC（首批搭載高通驍龍X芯片的器材）也同樣具備使用NPU的AI功能。需要註意的是，2024年11月，AMD和英特爾的PC將能夠享受此前僅限高通的Copilot+PC功能，但只有搭載最新的AMDRyzenAI300系列和英特爾酷睿超系列2（LunarLake）處理器的器材才能使用。
這些僅僅是Windows內部功能的冰山一角，應用程式開發者也可以透過多種途徑利用NPU。我們可能會看到Audacity和GIMP的外掛程式加入基於NPU的AI音訊和照片編輯功能。雖然潛力巨大，但硬件目前仍處於早期發展階段，真正發揮其潛力仍需時間。
目前大多數具有AI功能的應用程式（如微軟的Copilot聊天機器人）仍未利用NPU，而是在雲端執行AI模型。這就解釋了為何您可以在各類器材上使用微軟Copilot、ChatGPT、GoogleGemini和AdobeFirefly等AI解決方案。然而，雲端運算的成本相對較高，例如，微軟在數據中心投入大量資金處理Copilot的AI任務，因此他們希望將AI任務轉移到本地PC，從而降低雲端運算費用。
此外，本地執行計算密集型的AI任務，還意味著您可以在離線狀態下使用這些功能，且能更好地保護數據私密，避免頻繁將數據上傳至雲伺服器。
NPU效能指標
NPU的效能通常以每秒萬億次操作（TOPS）為單位來衡量。例如，低端NPU可能僅能處理10TOPS，而符合微軟Copilot+PC標準的器材至少需要處理40TOPS。截止到2024年秋季，以下NPU已可供選擇：
英特爾酷睿超系列1（MeteorLake）：此系列的NPU效能高達11TOPS，雖未滿足Copilot+PC的要求，但可以與WindowsStudio效果及某些第三方套用相容。
英特爾酷睿超系列2（LunarLake）：效能高達48TOPS，超出Copilot+PC的需求。
AMDRyzenPro7000和8000系列：AMD的NPU提供最高12和16TOPS，但未能支持Copilot+PC功能。
AMDRyzenAI300系列：最新的RyzenAI300系列中，NPU效能高達50TOPS，完全滿足Copilot+PC的要求。
高通驍龍XElite和XPlus：高通的HexagonNPU效能最高可達45TOPS。
需要強調的是，NPU不僅僅局限於PC。蘋果的神經引擎（NeuralEngine）是最早獲得市場關註的NPU之一。谷歌的Pixel器材使用的Tensor平台同樣包含NPU，而三星的Galaxy手機也整合了這一技術。
NPU的市場現狀與前景
如果您計劃購買搭載MeteorLake的筆記電腦以期望享受未來的AI功能，或許會因微軟後續宣布MeteorLake的NPU速度不足以支持Copilot+PC功能而感到失望。此時，Copilot+PC的功能仍不夠吸引人，特別是隨著WindowsRecall的推遲，Copilot+PC的亮點似乎並不突出。與此同時，許多流行的AI工具（如ChatGPT和AdobeFirefly）並未利用NPU的能力。
目前，只有最新款的筆記電腦配備這些快速的NPU，因此，如果您能找到折扣價合適的上一代筆記本，花費巨資購買一款NPU可能並不明智，尤其是如果您並不打算使用任何AI工具的話。
在大多數情況下，AI工具仍然執行在雲端，或至少提供雲端作為一個選項，您可以在任意Windows筆記電腦、Chromebook，甚至Android平板和iPad上使用它們。
對於桌上型電腦來說，情況略有不同。英特爾的桌上型電腦CPU目前尚未配備NPU。雖然市場上有帶有RyzenAINPU的AMD桌上型電腦芯片，但無論如何，AMD的Ryzen7000和8000系列芯片並不支持Copilot+PC功能。因此，如果您正在組裝一台台式電腦，暫時可以將NPU的考慮擱置，因為它現在的重要性尚不突出。
