為什麽要使用NPU而不是CPU或GPU?
為什麽要使用NPU而不是CPU或GPU?
目前,只有部份PC配備了神經處理單元(NPU)。在如今的科技環境中,CPU和GPU顯得有些過時,NPU作為一種新興的計算元件,正在迅速崛起。硬體制造商紛紛宣傳NPU的卓越效能,宣稱它將為電腦的AI任務帶來全新的可能性。
NPU是一種專為加速AI任務而設計的處理器,其主要目標是以低能耗的方式提升計算效率,助力新一代Windows應用程式的AI功能。雖然現在只有少數PC裝配了NPU,但其發展前景依然被廣泛看好。本文將深入探討NPU的相關資訊,以及它在電腦行業中的重要性。
NPU的定義與優勢
NPU,即神經處理單元,專為人工智慧和機器學習任務最佳化。它的名稱來源於人工智慧模型所使用的神經網路,這是一種由大量相互連線的節點組成的復雜網路,這些節點透過資訊傳遞交互作用。不同於GPU,NPU不需要額外購買或安裝,而是作為現代處理器平台的一部份,比如英特爾的CoreUltra、AMD的RyzenAI,以及高通的SnapdragonXElite和SnapdragonXPlus。如今的處理器通常整合了CPU、GPU和NPU三種元件。
過去,電腦主要依賴中央處理器(CPU)和圖形處理單元(GPU)來執行任務。盡管AIPC(配備NPU的電腦)仍然以此為基礎,但NPU的引入為AI計算帶來了新的機遇。CPU執行大部份任務,GPU雖然以圖形處理著稱,但也適用於其他計算密集型任務,比如加密貨幣挖礦和高效能AI模型執行。雖然GPU在這些領域表現優異,但其能耗非常高。
此時,NPU的優勢便凸顯出來。與CPU相比,NPU在處理AI任務時速度更快,但相較於GPU,其速度略遜一籌。NPU的電力消耗顯著低於GPU,能夠在進行AI計算時減少能耗,並且釋放CPU和GPU以處理其他任務,從而提升系統整體效能。
例如,在執行StableDiffusion等AI影像生成軟體時,如果您需要最大效能,GPU是首選。然而,有時候您可能需要執行的AI功能超出CPU的處理能力,但又不需要GPU的全部效能,特別是在使用膝上型電腦時,您可能希望在不消耗大量電池電量的情況下利用AI功能。此時,NPU的引入能夠讓膝上型電腦在本地執行AI任務,而不會產生過多熱量和電力消耗,同時也不會幹擾CPU和GPU正在處理的其他操作。
NPU的套用場景
即便您對人工智慧本身並不感興趣,NPU也可以在其他領域大顯身手。例如,在2024年CES上,惠普展示了一款利用NPU執行視訊串流媒體任務的遊戲串流媒體軟體,從而釋放GPU處理遊戲的資源。借助NPU的計算能力,這款串流媒體軟體在使用時不會占用任何GPU資源,並且速度比使用CPU處理同類任務快得多。
在AIPC上,作業系統和應用程式都能夠利用NPU的效能。例如,如果您的膝上型電腦搭載IntelMeteorLake硬體,其內建NPU將允許您在任何應用程式中執行AI驅動的WindowsStudio效果,如背景模糊和眼神接觸等功能。微軟的Copilot+PC(首批搭載高通驍龍X芯片的裝置)也同樣具備使用NPU的AI功能。需要註意的是,2024年11月,AMD和英特爾的PC將能夠享受此前僅限高通的Copilot+PC功能,但只有搭載最新的AMDRyzenAI300系列和英特爾酷睿超系列2(LunarLake)處理器的裝置才能使用。
這些僅僅是Windows內部功能的冰山一角,應用程式開發者也可以透過多種途徑利用NPU。我們可能會看到Audacity和GIMP的外掛程式加入基於NPU的AI音訊和照片編輯功能。雖然潛力巨大,但硬體目前仍處於早期發展階段,真正發揮其潛力仍需時間。
目前大多數具有AI功能的應用程式(如微軟的Copilot聊天機器人)仍未利用NPU,而是在雲端執行AI模型。這就解釋了為何您可以在各類裝置上使用微軟Copilot、ChatGPT、GoogleGemini和AdobeFirefly等AI解決方案。然而,雲端運算的成本相對較高,例如,微軟在數據中心投入大量資金處理Copilot的AI任務,因此他們希望將AI任務轉移到本地PC,從而降低雲端運算費用。
此外,本地執行計算密集型的AI任務,還意味著您可以在離線狀態下使用這些功能,且能更好地保護數據私密,避免頻繁將數據上傳至雲伺服器。
NPU效能指標
NPU的效能通常以每秒萬億次操作(TOPS)為單位來衡量。例如,低端NPU可能僅能處理10TOPS,而符合微軟Copilot+PC標準的裝置至少需要處理40TOPS。截止到2024年秋季,以下NPU已可供選擇:
英特爾酷睿超系列1(MeteorLake):此系列的NPU效能高達11TOPS,雖未滿足Copilot+PC的要求,但可以與WindowsStudio效果及某些第三方套用相容。
英特爾酷睿超系列2(LunarLake):效能高達48TOPS,超出Copilot+PC的需求。
AMDRyzenPro7000和8000系列:AMD的NPU提供最高12和16TOPS,但未能支持Copilot+PC功能。
AMDRyzenAI300系列:最新的RyzenAI300系列中,NPU效能高達50TOPS,完全滿足Copilot+PC的要求。
高通驍龍XElite和XPlus:高通的HexagonNPU效能最高可達45TOPS。
需要強調的是,NPU不僅僅局限於PC。蘋果的神經引擎(NeuralEngine)是最早獲得市場關註的NPU之一。谷歌的Pixel裝置使用的Tensor平台同樣包含NPU,而三星的Galaxy手機也整合了這一技術。
NPU的市場現狀與前景
如果您計劃購買搭載MeteorLake的膝上型電腦以期望享受未來的AI功能,或許會因微軟後續宣布MeteorLake的NPU速度不足以支持Copilot+PC功能而感到失望。此時,Copilot+PC的功能仍不夠吸引人,特別是隨著WindowsRecall的推遲,Copilot+PC的亮點似乎並不突出。與此同時,許多流行的AI工具(如ChatGPT和AdobeFirefly)並未利用NPU的能力。
目前,只有最新款的膝上型電腦配備這些快速的NPU,因此,如果您能找到折扣價合適的上一代筆記本,花費巨資購買一款NPU可能並不明智,尤其是如果您並不打算使用任何AI工具的話。
在大多數情況下,AI工具仍然執行在雲端,或至少提供雲端作為一個選項,您可以在任意Windows膝上型電腦、Chromebook,甚至Android平板和iPad上使用它們。
對於桌上型電腦來說,情況略有不同。英特爾的桌上型電腦CPU目前尚未配備NPU。雖然市場上有帶有RyzenAINPU的AMD桌上型電腦芯片,但無論如何,AMD的Ryzen7000和8000系列芯片並不支持Copilot+PC功能。因此,如果您正在組裝一台台式電腦,暫時可以將NPU的考慮擱置,因為它現在的重要性尚不突出。