當前位置: 華文世界 > 科技

巨頭掀翻了AI PC的桌子

2024-08-24科技

5月,成為了AI「爆炸」的一個月。

5月8日淩晨,蘋果釋出了地表最強平板,采用M4芯片的iPad Pro。M4芯片帶來了極致的AI效能,用官方的話來說:「比當今任何AI PC的任何神經引擎都強!」

蘋果釋出之後的第6天,Open AI宣布最新的旗艦大模型GPT-4o來了。不僅免費可用,更是橫跨聽、看、說。

緊跟著Open AI,谷歌坐不住了。第二天 I/O 2024開發者大會上,谷歌宣布了Gemini系列大模型的更新。Gemini 1.5 Pro不僅面向所有人開放,上下文視窗還從100萬token直接一步邁向200萬,一口氣能讀1500頁PDF。

在Open AI和谷歌的大戰後的6天後,微軟不聲不響地再次向AI的湖水中投入一塊巨石,提出了「Copilot+PCs」的概念。

這一波操作下來,網友們都開始興奮:「事情變得有趣起來。」

01

微軟向蘋果開火

「Copilot+PCs」的概念的出現,直接掀翻了AI PC的桌子。

為什麽這麽說?

與此前主機廠頻頻展示但概念模糊的「AI PC」相比,微軟給出了更明晰的定位。Windows系統層面,整合了剛剛問世的GPT-4o;在硬體層面,內建的驍龍X Elite芯片可以在不依賴雲端算力的情況下,本地處理生成式AI套用。

微軟的清晰定位,戳破了很多廠商還在遮遮掩掩的模糊概念,帶來的兩個拷問特點就是:AI PC到底需要什麽樣的硬體?又需要什麽樣智慧體?

微軟在釋出會上,頻頻將矛頭指向了蘋果。

比如,為了體現第一款Surface Pro的效能,微軟拿出蘋果MacBook Air一較高下。根據微軟官方測試,新款Surface Pro的多執行緒效能相比蘋果的MacBook Air高58%。

微軟還強調想要被稱為 Copilot+PC,至少需要提供 40 TOPs 的效能。而蘋果這個月剛剛釋出的M4芯片,NPU算力正好是38 TOPs。

為了能夠在本地處理生成式 AI Copilot,微軟除了要求需要NPU外,還至少要 256GB SSD、和 16GB RAM。這個要求,是蘋果MacBook Air 的兩倍。

可以說,微軟丟擲的條件,直擊蘋果的軟肋。

自從今年AI PC逐漸成為個人電腦領域的熱詞後,蘋果就一直在渲染Mac是消費者可以買到的最好的AI PC。按照蘋果的說法,自從2020年第一款M系列的芯片M1推出時,帶有NPU的M1就是為AI而生。

蘋果CEO提姆·庫克曾在今年年初提到,「目前市面上用於人工智慧的電腦,沒有比Mac更好的。」

要提到Mac的最大槽點,非「祖傳」的8G記憶體莫屬。距離庫克上一次升級記憶體已經過去了7年,這7年中Mac系列機型始終沒有提升過記憶體的起步配置。

對此蘋果方面聲稱,Mac使用的8GB統一記憶體(Unified Memory)與競爭對手的16GB記憶體(Memory)相當,官方給出的答復是8GB記憶體足以駕馭上網、播放視訊、輕量編輯等很多工。

問題是,8GB起步的記憶體能夠支撐Mac成為最好的AI PC嗎?

執行AI大模型需要大容量的視訊記憶體是眾所周知的事情。柏克萊大學的研究團隊發現,未來記憶體墻可能將會是比算力更大的瓶頸,GPU的視訊記憶體容量嚴重制約了可訓練的模型規模和算力提升速度,或將成為阻礙AI技術發展與落地的重要瓶頸。

GPU的視訊記憶體如果只有8GB水平,無論開發者如何進行最佳化,想要容納一個千億參數的大模型也只能是巧婦難為無米之炊。

如果想要配置一台能夠暢玩AI 的電腦,那麽大多數人的意見都會是32GB起步的記憶體。實際上,在2024中國快閃記憶體市場峰會上,英特爾甚至更為激進地表示,未來AI PC入門級標配一定是32G記憶體,而當前16G記憶體一定會被淘汰。

也正因此,微軟將未來AI PC門檻配置提高到16GB 也不足為奇。

02

AI PC芯片,多少算力算夠?

實際上,雖然對於AI PC 在軟體、系統層面的爭論還在繼續,但硬體層面,廠商都不約而同達成了共識:需配備NPU、CPU和GPU的異構計算平台。

目前推出AI PC芯片的廠商有四家:英特爾、AMD、高通、蘋果。不過蘋果屬於自產自銷,因此我們不多討論。英特爾在AI PC芯片進展中保持領先,AMD相關產品叠代速度更快,高通AI PC芯片的端側AI推理能力優於英特爾及AMD,未來預計逐步搶占更多市場份額。

市場上已公布的AI PC大多搭載的都是英特爾的Meteor Lake,比如聯想小新 Pro 16 2024 酷睿 Ultra 版、聯想高端線 YOGA 、微軟的兩款PC Surface Pro 10商用版和Surface Laptop 6商用版、華碩靈耀14 2024 AI超輕薄本等。

這是英特爾在2023年年底釋出的Meteor Lake,采用Intel 4(7nm)制程工藝的計算模組,多達 6 個效能核,8 個能效核,以及 2 個低功耗島能效核,一共加起來會支持 22 個執行緒。

目前,Meteor Lake AI PC已經贏得了100多家ISV獨立軟體供應商的支持,AI加速功能已經超過300項,AI大模型加速最佳化已經超過500項。

AMD也提供 AI PC的芯片。AMD在去年推出了銳龍7040,同樣搭載NPU。此後,AMD又釋出了銳龍8040處理器。銳龍8040系列開發代號Hawk Point,仍然基於Zen4 CPU架構、RDNA3 GPU架構、XDNA NPU架構。目前,搭載AMD 銳龍8040處理器的AI PC包括華碩ROG幻14 Air筆記本、華碩天選、華碩a 豆、華碩無畏。

此外,AMD相關產品相比友商更新叠代速度更快,例如在美國東部時間4月16日,AMD宣布推出兩款新產品銳龍(Ryzen)Pro 8040系列和銳龍Pro 8000系列,惠普、聯想等廠商會在今年年底前推出搭載銳龍Pro 8040系列芯片的AI PC。

高通的AI PC芯片是在去年10月釋出的驍龍 X Elite/X Plus。由台積電4nm工藝制程打造,搭載了全新客製的Oryon CPU,在4+4+4的三叢集中,12顆核心的主頻均可達到3.4GHz。

目前,搭載驍龍 X Elite/X Plus的AI PC包括宏碁 Swift 14 AI 筆記本,以及微軟剛剛釋出的Windows 11 AI PC。據了解,Windows 11 AI PC自6月18日起陸續上市,微軟Surface以及戴爾、宏碁、華碩、惠普、聯想等OEM合作夥伴將陸續推出Windows 11 AI PC。

前文提到,微軟認為真正的AI PC需要算力達到 40 TOPs。這對於AI PC的芯片層面提出了一個新的要求。

我們來看看,目前主流的Meteor Lake、銳龍8040、驍龍 X Elite/X Plus的算力情況。

英特爾Meteor Lake的綜合算力在34 TOPS左右,NPU算力在10TOPS左右,官宣可以支持200億大模型在終端側執行;AMD的銳龍8040的整體算力在39 TOPS,NPU的AI算力在16 TOPS;高通驍龍X Elite NPU的算力則達到了45TOPS,官宣可支持130億參數大模型的本地執行。

芯片企業競爭力分析對比圖

總體上來看,芯片算力層面,高通優勢最為突出。計算速度層面(頻率),AMD處理指令的速度更為突出。功耗層面,AMD芯片優勢突出。核心數方面,英特爾的並列處理數據能力更強。

值得註意的是,英特爾已經宣布了自己的下一代筆記本芯片Lunar Lake,將可以提供超過100 TOPS的效能,其中神經處理單元(NPU)能夠提供45 TOPS。而這一效能,也達到了英特爾此前在台北人工智慧峰會上提出的下一代AI PC所需的45 TOPS NPU的效能門檻。

實際上,根據【AI PC產業(中國)白皮書】,當端側混合AI算力達到10TOPS,可以在本地完成如裝置智慧管理、影像增強、遊戲調優等特定場景的 AI模型推理任務;AI算力達到 40TOPS 時,可以在與GPU或雲端配合情況下,完成工作、學習、娛樂等場景的大部份 AI 創作類的需求。

這麽來看,真正成熟的AI PC芯片算力至少會比當前再提升一個水平。

03

AI PC在期待什麽?

在1月初,微軟往 Windows 鍵盤塞了一枚全新的 Copilot 鍵,迎來近三十年的首次改版,只需點選一下按鈕,使用者就可以和 Copilot 進行無縫親密的互動。而現在,微軟的 Copilot 鍵,使用者可以直接存取包括 OpenAI 的 GPT-4o 在內的最新模型。

微軟是第一個將GPT-4o快速整合到終端的企業,當然,考慮到微軟和Open AI的關系,雙方的合作應該很早就已經開始。

實際上,無論硬體層面如何要求,一台PC上能夠在本地執行、搭載大模型才能算一台合格的AI PC。在分析機構看來,未來的AI PC產品將更像是使用者的個人AI助理,這需要將個人大模型、個人知識庫、個人Agent嵌入到裝置中以實作AI PC的多模態自然語言互動,大幅提升意圖理解能力。

AI PC是大模型向終端轉移的第一步。

從目前市場上的端側大模型來看,一個符合常理的規律是:裝置端越大(功能越多),其端側大模型的參數量也越大。例如最近商湯亮相的「日日新5.0」,采用混合專家架構(MOE),是國內第一個全面對標甚至超越GPT-4 Turbo的大模型,參數規模達到6000億。

上千億參數的大模型,對於PC來說,顯然並不適合。

我們可以來看看目前釋出的能夠搭載大模型的PC。華為的首款AI PC產品MateBook X Pro上,支持華為自家的盤古大模型以及文心一言、訊飛星火、智譜清言等第三方合作大模型。在個人智慧體方面,華為AI PC的電腦管家中設有AI空間,內建100多個智慧體,覆蓋文案創作、編程等多種能力,為使用者帶去AI新體驗。

聯想透過大模型壓縮技術對阿裏通義千問大模型進行壓縮,壓縮後的大模型稱為Lenovo AI Now模型,加上在個人智慧體方面,聯想釋出了業內首款AI PC個人智慧體——聯想小天。

榮耀釋出的AI PC 產品MagicBook Pro 16中,搭載榮耀語音助手「YOYO 助理」,幫助使用者完成語意搜尋、文件總結、服務推薦、輔助創作等。

200億的參數已成為AI PC目前可以支撐的較高水平,對於大模型廠商來說,如何提供輕量級大模型是一個問題。

目前的主流方式是借助大模型壓縮技術,可以在不顯著降低模型效能的前提下,節省儲存空間、提高計算效率、加速推理過程。比如知識蒸餾、模型量化和權重剪枝等,將數據型別轉化為int8甚至int4,從而進一步減少推理過程中的算力需求。

如果能夠將更多復雜的大模型在PC端實作高效執行,那麽未來除了OpenAI的GPT系列,阿裏雲的通義千問、騰訊混元、百度文心系列等等,都有可能成為端側AI PC的重要組成部份。比如,在大模型、AIGC套用方面,榮耀就已同百度達成合作。

04

現在購買AI PC的人,是先驅還是韭菜?

在早期大模型還沒有如此火熱的是很好,很多愛好者和研究者都會自己組裝,選擇在本地電腦上折騰這些開源大模型或者開源計畫。

那麽,在市面上攢一台可以訓練個人大模型的桌上型電腦,大概需要多少錢呢?粗略計算各元件的成本如下:

可以看到,組裝一個本地跑大模型的桌上型電腦價格大概在1.1萬到4萬之間。通常來說,桌上型電腦不需要考慮便攜性和體積,價格要比膝上型電腦便宜。

資訊來源:IDC

IDC對於價格方面比較保守,從IDC統計的數據中,AI膝上型電腦平均銷售單價將在5500~6500元區間,AI桌上型電腦電腦平均單價約4000元。

不過目前公布的AI PC價格來看,以定位比較高端的ThinkPad X1 Carbon AI 2024 為例,頂配的32GB+2TB 版本,售價為16999 元。新釋出的YOGA Book 9i,最高售價為17999元。而華為新釋出的MateBook X PRO的高配 Ultra9 32GB 2TB為14999元。如果購買微軟的Surface Pro,想要搭載 X Elite 芯片和 OLED 螢幕的話,最少要花費 11088 元。

雖然調研機構預計2024年以後需求增長和效能提升將推動AI PC銷售均價繼續提升,但是整體會呈現「初期高定價,中後期價格下降」的趨勢,下降振幅取決於芯片等硬體裝置方面的降本空間。但是在AI PC剛釋出初期,這個價格和效能還不足以讓消費大眾砸錢換新機。

05

觀AI PC全域

伴隨著AI CPU與Windows12的釋出,2024年將成為AI PC規模性出貨的元年,2027年AI PC將成為主流化的PC產品型別,未來五年全球PC產業將深入邁入AI PC時代。IDC預計未來五年全球AI PC的復合增長率將達到126%,中國AI PC市場滲透率預計將於2027年增長至85%左右。AI PC將成為全國及中國PC市場發展的主要驅動力。

中國AI PC市場出貨量及占比預測 資訊來源:【AI PC產業白皮書】

硬體層來看,處理器芯片、記憶體、散熱、互動將是主要收益領域;模型層來看,未來針對各行業的垂直端側模型將成為主要發展趨勢,進而支持傳統軟體的AI轉型以及AI原生套用的發展;終端層來看,各主流PC廠商玩家正加快AI PC相關產品布局。

AI PC產業鏈圖譜

從芯片生態能力來看,英特爾Ultra芯片生態綜合能力更強,擁有更多的頭部大模型及AI PC品牌商等生態合作夥伴。

芯片企業生態圖譜

2023Q2開始,頭部廠商陸續推出了ThinkPad14、EliteBook805等AI PC初期產品,且這一趨勢在2023下半年開始進一步提速,各大廠商相繼推出更多效能更強的AI PC新品。根據各大廠商表述與產品進展,2024年各頭部廠商將推出一波采用AI加速的新機型,及時為使用者提供差異化體驗。

惠普、戴爾、聯想、宏基和華碩都表示,計劃與英特爾和AMD 的新CPU產品路線圖同步推出全新 AI PC,在 2024-2025 年 Windows 更新期間產品推進市場,為加速裝置升級提供機會。

AI PC產品釋出路線圖

AI PC玩家競爭力對比

套用層-套用場景及套用軟體

AI PC套用場景主要包括垂直行業類套用場景以及通用型套用場景。垂直類行業套用場景主要包括教育類垂直套用場景、醫療類垂直套用場景、法律類套用場景以及金融類套用場景等。通用型套用場景是指AI PC能夠針對工作、學習、生活等場景,提供個人化創作服務、私人秘書服務、裝置管家服務在內的個人化服務。

AI套用軟體生態處於初級階段,同時國際主流個人AI套用軟體在國內受限,國內軟體套用生態待發展。各垂類細分領域套用場景仍需要進一步的開發。在AIPC時代,在端側部署本地大模型僅是基礎,重要的是要構建AIOS互動界面和生態,其能呼叫的套用與模型數量和品質直接決定了使用者的AI體驗。目前還處於待開發階段。

06

AI PC行業未來發展趨勢

從產業鏈發展趨勢來看,上遊 AI PC芯片「CPU+NPU+GPU」異構方案將成主流,並支持使用者對AI PC芯片進行二次開發,同時端側模型呈現輕量化、行業垂直化、個人化發展趨勢。 中遊 各PC品牌主流玩家均繼續加速布局AI PC賽道,短期來看,聯想AI PC綜合實力更強,但是長期來看,具有手機品牌的電腦廠商基於其可以將手機及電腦打通的生態優勢,將具有更大的AI PC發展潛力。 下遊 政務、醫療及教育行業將成為AI PC落地場景的主要賦能行業。

從產品發展趨勢來看, 未來AI PC產品將主要包括兩類,一類是具有高AI算力的AI PC產品,另一類是具有低AI算力的AI PC產品。高AI算力AI PC產品可執行大量垂直行業細分領域的端側大模型,低AI算力AI PC產品的端側大模型主要圍繞語音、文字和影像處理等。

從商業模式發展趨勢來看,隨著未來AI軟體側及相關技術的進一步發展與落地,AI PC中的AI助手會采取與WPS類似的商業模式,根據服務的不同等級設定不同的價格。

從生態體系發展趨勢來看,PC終端廠商 將承擔起行業生態組織者的使命,以場景需求為基礎面向使用者整合產業資源,成為 PC 產業生態的核心中樞。 AI模型技術廠商 將重點開發輕量化與針對各垂直行業的端側大模型、提供模型個人化微調服務以及將自身模型解耦和適配AI PC個人智慧體。 傳統套用廠商 需要和模型廠商合作,將傳統套用升級為大模型賦能套用;長期則需進行更為徹底的重構,將自身轉型為AI原生套用。AI市集將聚合AI原生套用和由AI賦能的套用,並提供便捷的檢索和下載支持。 芯片廠商 將註重建立通用、相容的AI開發框架,並降低大模型和套用開發適配門檻模型,提供具有高效能普惠型智慧算力的芯片。

從總體上來看 ,智慧裝置作為人工智慧觸達使用者的載體,AI PC將深入變革PC產業。生成式AI和LLM的飛躍式發展,深刻變革了個人生活與工作模式,加速各行各業智慧化轉型。AI發展正從軟體主導轉向硬體+軟體並列驅動,而智慧裝置作為AI觸達使用者的終極載體,正成為AI未來發展與落地的重要突破口。AI PC將AI模型與PC結合,帶來架構設計、互動方式、內容、套用生態等創新,將深入變革PC產業。