为什么要使用NPU而不是CPU或GPU？
为什么要使用NPU而不是CPU或GPU？
目前，只有部分PC配备了神经处理单元（NPU）。在如今的科技环境中，CPU和GPU显得有些过时，NPU作为一种新兴的计算组件，正在迅速崛起。硬件制造商纷纷宣传NPU的卓越性能，宣称它将为计算机的AI任务带来全新的可能性。
NPU是一种专为加速AI任务而设计的处理器，其主要目标是以低能耗的方式提升计算效率，助力新一代Windows应用程序的AI功能。虽然现在只有少数PC装配了NPU，但其发展前景依然被广泛看好。本文将深入探讨NPU的相关信息，以及它在计算机行业中的重要性。
NPU的定义与优势
NPU，即神经处理单元，专为人工智能和机器学习任务优化。它的名称来源于人工智能模型所使用的神经网络，这是一种由大量相互连接的节点组成的复杂网络，这些节点通过信息传递相互作用。不同于GPU，NPU不需要额外购买或安装，而是作为现代处理器平台的一部分，比如英特尔的CoreUltra、AMD的RyzenAI，以及高通的SnapdragonXElite和SnapdragonXPlus。如今的处理器通常集成了CPU、GPU和NPU三种组件。
过去，计算机主要依赖中央处理器（CPU）和图形处理单元（GPU）来执行任务。尽管AIPC（配备NPU的计算机）仍然以此为基础，但NPU的引入为AI计算带来了新的机遇。CPU执行大部分任务，GPU虽然以图形处理著称，但也适用于其他计算密集型任务，比如加密货币挖矿和高性能AI模型运行。虽然GPU在这些领域表现优异，但其能耗非常高。
此时，NPU的优势便凸显出来。与CPU相比，NPU在处理AI任务时速度更快，但相较于GPU，其速度略逊一筹。NPU的电力消耗显著低于GPU，能够在进行AI计算时减少能耗，并且释放CPU和GPU以处理其他任务，从而提升系统整体性能。
例如，在运行StableDiffusion等AI图像生成软件时，如果您需要最大性能，GPU是首选。然而，有时候您可能需要运行的AI功能超出CPU的处理能力，但又不需要GPU的全部性能，特别是在使用笔记本电脑时，您可能希望在不消耗大量电池电量的情况下利用AI功能。此时，NPU的引入能够让笔记本电脑在本地执行AI任务，而不会产生过多热量和电力消耗，同时也不会干扰CPU和GPU正在处理的其他操作。
NPU的应用场景
即便您对人工智能本身并不感兴趣，NPU也可以在其他领域大显身手。例如，在2024年CES上，惠普展示了一款利用NPU执行视频流媒体任务的游戏流媒体软件，从而释放GPU处理游戏的资源。借助NPU的计算能力，这款流媒体软件在使用时不会占用任何GPU资源，并且速度比使用CPU处理同类任务快得多。
在AIPC上，操作系统和应用程序都能够利用NPU的性能。例如，如果您的笔记本电脑搭载IntelMeteorLake硬件，其内置NPU将允许您在任何应用程序中运行AI驱动的WindowsStudio效果，如背景模糊和眼神接触等功能。微软的Copilot+PC（首批搭载高通骁龙X芯片的设备）也同样具备使用NPU的AI功能。需要注意的是，2024年11月，AMD和英特尔的PC将能够享受此前仅限高通的Copilot+PC功能，但只有搭载最新的AMDRyzenAI300系列和英特尔酷睿超系列2（LunarLake）处理器的设备才能使用。
这些仅仅是Windows内部功能的冰山一角，应用程序开发者也可以通过多种途径利用NPU。我们可能会看到Audacity和GIMP的插件加入基于NPU的AI音频和照片编辑功能。虽然潜力巨大，但硬件目前仍处于早期发展阶段，真正发挥其潜力仍需时间。
目前大多数具有AI功能的应用程序（如微软的Copilot聊天机器人）仍未利用NPU，而是在云端运行AI模型。这就解释了为何您可以在各类设备上使用微软Copilot、ChatGPT、GoogleGemini和AdobeFirefly等AI解决方案。然而，云计算的成本相对较高，例如，微软在数据中心投入大量资金处理Copilot的AI任务，因此他们希望将AI任务转移到本地PC，从而降低云计算费用。
此外，本地执行计算密集型的AI任务，还意味着您可以在离线状态下使用这些功能，且能更好地保护数据隐私，避免频繁将数据上传至云服务器。
NPU性能指标
NPU的性能通常以每秒万亿次操作（TOPS）为单位来衡量。例如，低端NPU可能仅能处理10TOPS，而符合微软Copilot+PC标准的设备至少需要处理40TOPS。截止到2024年秋季，以下NPU已可供选择：
英特尔酷睿超系列1（MeteorLake）：此系列的NPU性能高达11TOPS，虽未满足Copilot+PC的要求，但可以与WindowsStudio效果及某些第三方应用兼容。
英特尔酷睿超系列2（LunarLake）：性能高达48TOPS，超出Copilot+PC的需求。
AMDRyzenPro7000和8000系列：AMD的NPU提供最高12和16TOPS，但未能支持Copilot+PC功能。
AMDRyzenAI300系列：最新的RyzenAI300系列中，NPU性能高达50TOPS，完全满足Copilot+PC的要求。
高通骁龙XElite和XPlus：高通的HexagonNPU性能最高可达45TOPS。
需要强调的是，NPU不仅仅局限于PC。苹果的神经引擎（NeuralEngine）是最早获得市场关注的NPU之一。谷歌的Pixel设备使用的Tensor平台同样包含NPU，而三星的Galaxy手机也集成了这一技术。
NPU的市场现状与前景
如果您计划购买搭载MeteorLake的笔记本电脑以期望享受未来的AI功能，或许会因微软后续宣布MeteorLake的NPU速度不足以支持Copilot+PC功能而感到失望。此时，Copilot+PC的功能仍不够吸引人，特别是随着WindowsRecall的推迟，Copilot+PC的亮点似乎并不突出。与此同时，许多流行的AI工具（如ChatGPT和AdobeFirefly）并未利用NPU的能力。
目前，只有最新款的笔记本电脑配备这些快速的NPU，因此，如果您能找到折扣价合适的上一代笔记本，花费巨资购买一款NPU可能并不明智，尤其是如果您并不打算使用任何AI工具的话。
在大多数情况下，AI工具仍然运行在云端，或至少提供云端作为一个选项，您可以在任意Windows笔记本电脑、Chromebook，甚至Android平板和iPad上使用它们。
对于台式机来说，情况略有不同。英特尔的台式机CPU目前尚未配备NPU。虽然市场上有带有RyzenAINPU的AMD台式机芯片，但无论如何，AMD的Ryzen7000和8000系列芯片并不支持Copilot+PC功能。因此，如果您正在组装一台台式电脑，暂时可以将NPU的考虑搁置，因为它现在的重要性尚不突出。
