中國基金報記者 馮堯
智慧型手機行業進入存量時代,各廠商都在尋求新的創新點。而AI的到來,成為重要催化劑。
1月8日,OPPO正式釋出了其旗艦機型FindX7系列。與傳統智慧型手機不同的是,該機型得到70億參數的AI大模型加持。為了炫技「AI語音摘要」等功能,OPPO首席產品官劉作虎甚至與理想汽車CEO李想進行了一波「商業互吹」。
當前,已有越來越多國產手機廠商在AI領域進行密集布局,AI手機的落地步伐正明顯加快。在業內看來,隨著高參數大模型逐步落地,AI手機將率先將消費電子拉進「AI時代」,同時也將促進硬體環節持續叠代。
AI效果如何?現場「炫技」
OPPO在ODC上正式推出自主訓練的大模型AndesGPT之後,首次將這一70億參數的大模型套用在端側手機,即最新旗艦機型Find X7系列上。
據了解,AndesGPT透過高精度4bit量化等模型壓縮、推理引擎的加速,以及與芯片平台深度合作的硬體加速方式,第一次為手機端側帶來完全體70億參數大模型。
在AI大模型加持下,全新語音互動助手小布不僅可以聊天,還可以回答各種問題,擁有總共超過100種能力。其能夠在辦公效率,生活服務,學習教育等不同維度為使用者提供幫助。
OPPO此次釋出額Find X7系列基於AndesGPT 70億參數大語言模型帶來了一系列套用案例。
例如,自然語意的理解和文本處理方面,根據官方提供的數據,AndesGPT 70億參數大語言模型可以在200字首字生成帶來20倍的更快響應,面向2000字首字生成也可以實作2.5倍的更快速度。
在生成品質方面,AndesGPT可以實作最高14000的摘要字數上限,達到了同平台其他模型的3.5倍。以通話摘要功能舉例,AndesGPT能夠幫助使用者梳理通話內容的要點,並準確地輸出帶有主題、要點,以及待辦事項的通話內容摘要,精準程度明顯優於10億級別的端側模型。
為了更直觀展現70 億參數大模型加持後的效果,OPPO在現場「炫技」,理想的新車型也蹭了一波熱度。在釋出會上,劉作虎放出了一段與李想進行的一波「商業互吹」。
劉作虎作為首批預定了理想Mega的車主,前幾天與李想電話進行了一段交流。其中李想提到Mega的舒適性、靜謐性和智慧化等特點,同時邀請劉作虎參加3月1日的釋出會。通話結束後,透過「AI語音摘要」功能,Find X7隨即生成包括對話重點和待辦事項在內的摘要。
除了生成對話摘要之外,「AIGC消除」也是一大常用功能,該功能讓主體消除與實景重繪等眾多功能的實作落地。在現場,OPPO方面也實際透過復雜的圖片來展示了這一功能。
據悉,AndesGPT不僅支持超過120類主體的辨識與分割,還可以直接在畫面中生成自然的光影效果。
消費電子邁入AI時代
據悉,Find X7之所以能夠執行70參數AI大模型,離不開其AI芯片加持。據了解,此次釋出的Find X7系列搭載了天璣9300生成式AI移動芯片。
在2023年11月6日,聯發科釋出了天璣9300旗艦5G生成式AI移動芯片,其一大賣點就是支持終端執行10億、70億、130億、最高可達330億參數的AI大語言模型。
除了OPPO的Find X7系列之外,VIVO的X100系列也搭載了天璣9300芯片,該系列同樣支持70億參數AI大模型。而上述兩款機型也是業內首批實作70億參數大模型落地的AI手機。
事實上,除了天璣9300之外,高通也加入了AI芯片的「軍備競賽」。在2023年10月25日,高通釋出了全新的第三代驍龍8行動平台,該產品的一大亮點,就是Hexagon NPU速度提升98%,能效也提升了40%,支持超過100億個參數的模型。
在此前的驍龍峰會上,榮耀宣布Magic6系列將搭載第三代驍龍8行動平台,支持70億參數的端側AI大模型。
實際上,在手機行業,最早釋出植入大模型的廠商是華為。在2023年7月7日,華為推出了盤古大模型3.0。不過在釋出之初,盤古大模型與華為終端的聯系並不深。盤古大模型「不作詩,只做事」,更多聚焦政務、金融、制造等行業。
但隨著OPPO、VIVO、榮耀等廠商相繼釋出AI手機,AI大模型在端側落地的熱度已經明顯提升。在業內看來,AI手機將會率先引領大模型在端側的落地,有望將消費電子帶進「AI時代」。
根據IDC預測,到2026年,中國市場近50%的終端裝置處理器將帶有AI技術。後續隨著AI大模型與硬體的結合陸續完善,消費電子產業鏈也將迎來新的創新機遇。
該機構預計,智慧型手機、PC、智慧眼鏡、智慧音箱等終端也將成為人工智慧的硬體入口,建立新的生態,帶動消費電子產業鏈的新一輪創新。
不過值得註意的是,由於手機AI大模型對原生的算力要求較高,接下來或許只有搭載最新旗艦處理器的手機才能支持極致的AI大模型功能。根據此前聯發科透露,大語言模型對記憶體需求暴增,130億參數大模型至少需要13GB記憶體,再加上6GB App保活、4GB安卓OS,16GB記憶體手機並不能執行該參數的大模型。
由於AI大模型對端側算力以及記憶體的要求較高,這也意味著,老款智慧型手機接下來很難體驗到相關功能。
華泰證券一份研報分析,AI大模型在手機套用對其BOM成本影響主要包括:1)SoC:AI引擎升級、NPU算力提升;2)儲存:手機RAM升級至24GB LPDDR5X,相較當前主流的8GB LPDDR4X,成本提升300%;3)電源:電池/電源管理芯片升級,但彈性相對較小;4)光學:AI 推動屏下網路攝影機套用取得突破。
尤其在儲存方面,華泰證券舉例顯示,在推理場景下,以一個100億參數模型(FP16 精度)不考慮模型運算時的臨時變量,總計需要18.6GB記憶體。
編輯:喬伊
稽核:木魚