當前位置: 華文世界 > 科技

手機廠開卷AI這一年 端側大模型越做越小?

2024-10-11科技

從2023年下半年,AI大模型就開始席卷手機圈。vivo、OPPO、華為、榮耀等國內手機廠商都在生成式AI上發力。

經過一年多的發展,多名業內人士告訴【科創板日報】記者,相比去年,如今雲端執行大模型的成本已經大振幅下降,大規模的端側普及也對降本起到了更多作用,越來越多的功能可以在端側進行。同時,端側模型的尺寸越來越小,30億參數端側模型有望成為標配。而在雲端大模型方面,百億以下的模型對手機企業極其有價值。

此外,AI有望催生出全新的硬體品類,特別是智慧眼鏡備受矚目。除了華為、榮耀、小米已入局外,【科創板日報】記者在采訪中了解,vivo也在計劃推出眼鏡產品。

不過當前AI功能尚不成熟,現如今就AI會加速智慧型手機的更換周期或許為時過早。但從長期來看,未來10年將會是一場真正的革命。

▌百億以下模型極其有價值

當前,AI已成為手機廠商新機的亮點。把大模型裝進手機,尤其是在旗艦機型上,AI已經是必備要素。

今年9月,首次搭載AI功能的iPhone 16正式釋出,采用30億參數端側模型、自研雲端大模型,以及與OpenAI合作接入的外部GPT模型相結合的模式。

在剛剛結束的vivo開發者大會上,vivo也釋出了30億參數量級的藍心端側大模型3B,並升級了千億級藍心雲端大模型,藍心語音大模型、影像大模型以及藍心多模態大模型首次亮相。

談及對AI的投入,vivo AI全球研究院院長周圍在接受【科創板日報】記者采訪時表示,會重點瞄準兩千億以下的雲端模型,以及把端側模型做到領先,把百億模型做到獨具特色,千億以上的大模型則會考慮和第三方廠商合作。

「我們把大模型分為三個類別,第一是百億及以下,第二是兩千億以下,第三是兩千億以上的。從投資的角度來看,這分別是兩千張卡、一萬張卡、N萬張卡的投資邊界。像我們這樣的公司,可能一年花30億、組建一萬張卡的訓練集群是上限。」

周圍認為,對於手機企業而言,百億以下的模型極其有價值。「像影像辨識、聲音辨識、稽核模型、PhoneGPT等都是百億模型。千億模型是雲端的中控模型,大概可以達到大學生的水平。千億以上則適用於一些復雜的場景,像大領域的套用等等,我們不會碰這些。」

▌大模型落地手機的成本大幅下降

要把大模型裝進手機,面臨著算力、記憶體、儲存容量以及電池密度等各方面的瓶頸,導致其大模型參數量最高在百億規模。去年,vivo曾實作了130億藍心大模型的端側跑通,但這也對手機記憶體有較大的占用。如何進一步把模型做小,已成為手機廠商的探索方向。此次vivo就釋出了尺寸更小的30億端側大模型3B。

「去年我們釋出了70億、130億的大模型,經過極致量化壓縮之後,70億大模型仍要占使用者3.5GB的儲存空間。所以當時並沒有把模型強行內建到系統中,而是給使用者提供了可下載和可解除安裝的選擇。今年尺寸更小的3B端側大模型,占用1.5G的記憶體。因此,這次我們會內建到接下來旗艦機型的OriginOS 5之中。」vivo AI系統中心高級總監熊官敬介紹。

值得一提的是,蘋果首款AI手機也選擇了端側30億參數大模型。

熊官敬表示,3B模型已可以滿足很多場景下的需求。「在通話、錄音、輸入法各個地方都能用。從大模型榜單上來看,3B模型PK之前的6B和7B都沒問題。」

在去年的采訪中,周圍曾透露雲端執行大模型的成本非常高:「vivo有3億中國大陸使用者,如果每天用10次,一天的運算成本大概是3000萬元,一年需要花費約90-100億元。」

在此次采訪中,周圍直言,隨著各家大模型廠商相繼降價,雲端大模型的成本已經大振幅下降。不過,對降本起到更多作用的是大規模的端側普及。

「今年我們有十幾個、數十個功能都端側化了,以後可能閑聊、辨識、決策、執行全部都端側化了。所以我們不浪費錢,費的是電。」

▌AI必將催生新的智慧品類

除了手機以外,AI在眼鏡等新興終端的落地備受關註。IDC數據顯示,2024年一季度全球AR眼鏡出貨量為10萬台,同比增長56%;智慧眼鏡出貨量為26萬台,同比增長217%;另據IDC數據,2024年上半年,國內AR、ER市場共出貨12.2萬台,同比增長79.2%。去年9月,Meta與雷朋合作推出的Ray-Ban Meta智慧眼鏡在當前已成為全球智慧眼鏡領域內的爆款單品,第三方數據顯示,其銷量已突破100萬台。

周圍認為,AI會催生出全新的硬體品類。未來,vivo也計劃推出眼鏡產品。

「vivo本來就在做眼鏡。我們去年給國家無障礙環境展示館給盲人做導覽,用的是vivo手機,但後來發現放在眼鏡上的體驗更好。我們和合作夥伴也在談做軟體和系統的支撐,用的是藍河作業系統。但至於今年還是2025年或者什麽時候出來,還不知道。這要看產品的成熟度,而且我們也希望行業有成功案例之後,才會有商業上的動作。」

談及大模型在AI眼鏡的落地,IDC中國研究總監潘雪菲認為,就音訊AI眼鏡來看,目前端側落地大模型還是有相當長的時間。「考慮到佩戴舒適度,音訊眼鏡在體積和人體工學設計上對芯片體積和空間設計要求較高,可能會有一些小型模型在端側本地執行,比如幾個播放暫停接打電話等簡單語音包,可以落在本地。」

▌AI驅動的換機潮何時到來?

當前生成式AI技術尚未成熟,對於AI手機元年何時帶來的換機潮,業內也有爭論。

近期,受到iPhone 16系列預購銷量下滑影響,美國知名投資銀行傑富瑞的分析師艾迪森·李將蘋果股票評級從「買入」下調至「持有」,理由是擔心人們對其新款支持AI功能iPhone的預期過高。

艾迪森表示,智慧型手機硬體目前還不夠先進,無法滿足高科技人工智慧分析師和iPhone 消費者所期望的水平。他認為,對iPhone 16甚至17的高期望並不現實。因為缺乏實質性的新功能,人工智慧覆蓋範圍有限,這意味著高市場預期(5%-10%的銷量增長)不太可能實作。

艾迪森在報告中寫道,「智慧型手機與人工智慧伺服器不同,缺乏高速記憶體和先進的封裝技術,從而限制了它們的人工智慧能力。現在就期待AI會加速智慧型手機的更換周期還為時過早。」艾迪森稱,像蘋果這樣的制造商還需要兩到三年的時間才能開發出能夠順利執行AI軟體的智慧型手機硬體。

IDC中國研究經理郭天翔對【科創板日報】記者表示,很多國家地區蘋果的AI功能依然不能使用,這導致對消費者的吸重力有限。此外,AI智慧型手機的殺手級套用還沒出現,消費者不會因為智慧型手機有了足夠好的NPU(芯片)主動購買。

「大多數消費者並不真正知道他們使用AI可以做什麽。今天的AI智慧型手機超級周期更多是由手機廠商推動。但這符合新技術進入市場的規律。AI智慧型手機的普及已經開始,就像功能型手機過渡到智慧型手機一樣,第一步往往是科技公司主動吸引消費者購買體驗。」

郭天翔表示,如今智慧型手機滲透率已經很高,某些地區超過90%,但智慧型手機出貨量仍舊有所增長。「每個人都會因為新功能購買下一代iPhone、三星、小米或者其他品牌裝置。所以首批使用者應該是傳統智慧型手機消費者更換AI智慧型手機。目前依然處於開始階段。並不知道未來5到10年AI智慧型手機會給我們帶來什麽。」

郭天翔認為,樂觀來看,未來10年將會是一場真正的革命,大多數消費者將找到真正有用的殺手級套用。IDC預計,到2028年,全球超過70%的智慧型手機都將支持人工智慧或者生成式AI。

周圍也對長期發展保持樂觀。對於何時AI才能帶來翻天覆地的銷量變化,周圍認為要保持平常心對待。

「現在還有一些功能要有雲端的支持,但端側化的演進非常快。預計到2027年,整個端側的算力,可能就會很好地支撐今天演示的那些自動執行的能力。所以,我認為到時會發生很大的變化。當然,可能也不用等到那個時候,隨著後續新機的釋出,估計明年就會有強烈的感知。」

本文源自:科創板日報