當前位置: 華文世界 > 科技

生成式AI生態浪潮洶湧,聯發科天璣在端側投下「定海神針」

2024-05-13科技

生成式人工智能(GenAI)的首次驚艷亮相已有1年有余,全球科技巨頭紛紛投入巨資開發AI大模型,體量規模不斷增長。與業界的火熱相比,對於手機消費者來說,AI技術的「存在感」似乎有些滯後,無論是使用者還是開發者,均期待AI「爆發」時刻的到來。

如何看待AI變革?如何讓AI生態加速發展?5月7日,聯發科於深圳成功舉辦天璣開發者大會(MDDC 2024),匯聚眾多生態合作夥伴以及全球開發者,深入研討生成式AI技術為移動生態帶來的變革與全新機遇,並重磅推出一系列加速端側生成式AI普及的新計劃、新成果,釋出天璣9300+旗艦5G生成式AI移動芯片。

集微網全程參與此次開發者大會,參加主題演講、技術分享以及媒體專訪。

AI生態共贏,聯發科打造「朋友圈」高效賦能開發者

自2018年開始正式投入生成式AI技術領域以來,聯發科積極聆聽產業界聲音,致力於整合行業資源,促進產業共創實作生態共贏。此次天璣開發者大會,聯發科攜手阿裏雲、百川智能、傳音、零一萬物、OPPO、榮耀、vivo、小米共同啟動「天璣AI先鋒計劃」。該計劃面向全球開發者,,致力於整合聯發科與產業生態夥伴資源,為勇於探索和創新的開發者提供開發資源、技術支持和商業機會。

聯發科董事、總經理暨營運長陳冠州表示:「相信透過天璣平台的優勢,以及天璣AI先鋒計劃,結合產業生態鏈夥伴的力量,我們將高效率賦能開發者,加速構建從雲端到終端的AI新生態,推動生成式AI技術在智能終端上的普及,讓更多的使用者享受到全新的高端深層次生成式AI體驗。」

據估算,2027年全球智能電話端側整體AI算力可達50000 EOPS,這一龐大數碼將為端側生成式AI的普及提供強有力保障。聯發科多年來深耕移動芯片,每年賦能全球多達20億部智能終端器材,實作2023年移動SoC出貨量全球第一。作為移動AI領域的先行者,聯發科憑借不斷前進演化的芯片技術,為智能電話行業全面轉向生成式AI提供鼎力支持。

AI予萬物,流動終端是突破口

盡管自2023年起AI大模型開始蓬勃發展,但尚未真正實作大規模套用。陳冠州認為,生成式AI徹底革新了終端套用的使用價值,2024年生成式AI的套用將綻放巨大潛力,普及至消費級市場。得益於智能電話私密保護、大規模的使用者群基礎、多模態情景感知等優勢,AI的爆發和普及最有可能在率先智能電話上實作。

在聯發科看來,我們正朝向一個更加激動人心的未來邁進,那就是與智能體(Agent UI)的互動。暢想不久之後的將來,智能電話透過智能體互動實作多模態輸入輸出、情境感知、本地個人化等服務,將全面引發終端體驗變革。

但要想實作這一目標,需要依賴各界多方夥伴一起努力,打破以往芯片公司、手機廠商、軟件套用單打獨鬥的局面。聯發科深知構建這一龐大AI生態的挑戰,決定依托所擅長的底層芯片能力從芯片、模型以及套用三個維度,與生態夥伴共同探索觀測AI技術路線,共同打造一個龐大完整的生成式AI套用生態圈。

為牢牢抓住AI產業機遇,攜手把握未來智能電話產業發展的主旋律,聯發科還與Counterpoint攜手阿裏雲通義千問、百川大模型、虎牙、酷狗音樂、零一萬物、OPPO、Soul、騰訊AI Lab、騰訊混元、vivo等生態夥伴,聯合釋出【生成式AI手機產業白皮書】,共同定義「生成式AI手機」的概念和典型特征。該白皮書認為,生成式AI手機有如下定義:利用大規模、預訓練的生成式AI模型實作多模態內容生成、情境感知,並具備不斷增強的類人能力。這便需要硬件具備先進的計算平台、大容量和高頻寬記憶體以及安全防護,最終實作流暢無縫的使用者體驗、自然和直觀的互動方式。

天璣9300+全大核旗艦,再升級,端側生成式AI效能再突破從芯出發

聯發科在MDDC 2024現場正式推出天璣9300+旗艦5G生成式AI移動芯片,加速實作端側生成式AI進步。該芯片繼承天璣9300「全大核」架構,繼續突破流動終端AI算力上限。這款芯片搭載采用主頻升級的Cortex-X4超大核,同時內建第七代AI處理器APU 790硬件級生成式AI引擎,再度成為智能電話SoC效能與生成式AI套用的雙料領跑者。

但要想將數據中心部署的知名大模型部署到移動端,僅靠效能的提升遠遠不夠,需要針對性適配,對記憶體、效率進行充分最佳化,而這也是聯發科一直以來所擅長的優勢。天璣9300+支持AI推測解碼加速技術,效能提升10%,大模型的推理效能最高生成速度提升120%;憑借天璣AI LoRA Fusion 2.0技術,生成式AI速度效率可提升100%,記憶體占用需求減少50%。

集微網了解到,目前天璣9300+已支持阿裏雲通義千問大模型、百川大模型、文心大模型、谷歌Gemini Nano、零一萬物終端大模型、Meta Llama 2 & Llama 3等前沿主流AI大模型。

據估算,2027年全球智能電話端側整體AI算力可達50000 EOPS,這一龐大數碼為端側生成式AI的普及提供了強有力保障。聯發科多年來深耕移動芯片,每年賦能全球多達20億部智能終端器材,實作2023年移動SoC出貨量全球第一。作為移動AI領域的先行者,聯發科憑借不斷前進演化的芯片技術,為智能電話行業全面轉向生成式AI提供鼎力支持。

快、全、強、易的,天璣AI開發套件賦能開發者創新全場景加速

除了強大的天璣芯片提供算力,聯發科同樣持續打造完整的AI套用開發生態,並於MDDC 2024正式宣布推出「天璣AI開發套件」NeuroPilot,包括快速高效的GenAI最佳實踐、覆蓋全球主流大模型的GenAI Model Hub、高效提升效能的GenAI最佳化技術和Neuron Studio一站式視覺化開發環境等四大模組,為廣大開發者提供「快、全、強、易」的專業開發體驗,賦能終端生成式AI套用開發全流程。

具體來看,「GenAI最佳實踐」透過模型量化、模型編譯和模型推理技術加速了大模型的終端部署,可從數周加速到僅1天;GenAI Model Hub適配行業前沿主流的大模型,為開發者高效構建生成式AI套用提供豐富的大模型資源;GenAI最佳化技術則匯入了推測解碼加速、LoRA Fusion等多項最新最快的軟件最佳化技術,不僅能夠提升AI套用的生成速度還能減少儲存空間的占用;Neuro Studio則整合了一站式、視覺化的開發環境,為開發者帶來「所見即所得」的易用開發體驗。

集微網在天璣開發者大會現場了解到,已有眾多科技大廠以及中小開發者積極擁抱這一平台,基於天璣AI開發套件以及天璣9300、天璣9300+流動平台推出了一系列端側生成式AI套用,例如全民K歌的端側歌曲生成SVC模型、抖音端側SDX-Lightning高畫質文生圖、RWKV作曲家大模型、AI動畫助手、阿裏雲通義AI Agent(智能體)等。

以最大公因數引領產業共識,為開發者提速增效

在生成式AI誕生初期,盡管業界開發者對此感到興奮,但面臨工具缺乏、工具鏈不完善等問題,一定程度上影響了套用落地行程。

聯發科看到這一不足,決心解決開發者急需的問題和困難,致力於透過芯片、開發工具搭建屬於流動終端的AI開發平台。

在此次MDDC大會媒體群訪環節,聯發科技聯發科無線通訊事業部副總經理陳一強表示,在生成式AI發展初期需要明確未來應該往哪些方向走,手機廠商、套用開發者以及聯發科也要關註自身所處的位置,因為不同角色的想法和策略不同。陳一強認為:「聯發科希望扮演一個底層整合的角色,把大家拉在一起,尋求一些共識,尋求讓大家能夠一起往同一個方向走。如果沒有聯發科這樣的角色,不同的生態角色會有不同的策略方向,可能就會影響整個AI生態的推進。」

作為提供端側AI底層算力的芯片公司,聯發科憑憑借其技術優勢以及產業鏈特殊角色,能夠整合大中小聚集開發者,引領產業共識,提高開發效率,目標是在生成式AI到來之際,追求芯片廠商、終端廠商、開發者這三者的最大公因數。開發者無需針對每款終端、OS單獨適配,只要用到了聯發科提供的工具,即可從底層挖掘芯片潛能,實作在所有搭載聯發科芯片的終端均得到相同的最佳化效果。

加速打造生態,期待套用爆發

盡管如今使用者已經習慣使用AI影像消除、AI通話摘要等功能,但頭部互聯網廠商、開發者以及手機廠商均在期待生成式AI的爆發,何時出現爆款套用、爆款功能?為智能電話、智能汽車等帶來新的增長點。此次天璣開發者大會,多名業界專家、行業高管給出樂觀預測,認為這一臨界點將會在未來1~2年內會出現。

聯發科陳一強表示:聯發科非常重視與遊戲頭部廠商的合作。我們,更在意使用者是否能夠感受到AI真的讓手機不太一樣,而也讓使用者能夠感受到AI帶來的套用創新和便利,去購買、體驗更棒的手機,從而改善使用者的生活,這是我們聯發科最希望達到的目標。」

對於改善使用者體驗這一點,在天璣遊戲生態布局上也有所體現。在天璣開發者大會上,聯發科展示了全面升級的星速引擎,透過自適應技術軟件開發套件和硬件光線追蹤技術,讓開發者可以打造畫質更優、更流暢、網絡更穩定、續航更持久的遊戲體驗。在星速引擎的助力下,不僅多款熱門遊戲載入速度大幅提升,還能節省功耗,讓玩家的暢快體驗更持久。再加上網絡監測系統的加持,星速引擎還能降低遊戲功耗的同時,節省數據流量,真正做到了改善使用者的遊戲體驗。

在移動端的硬件光追技術方面,聯發科是無可爭議的領導者,透過SmartGI和Nanomesh的配合,天璣平台可實作高達億萬面的幾何數量支持,把主機級光追效果帶到了移動端,並提升遊戲幀率,為手遊使用者帶來更加震撼的遊戲畫質和流暢度。聯發科還積極與Arm、Google、Khronos以及Unreal Engine等產業合作夥伴共同探索前沿技術,且不斷地賦能和拓展天璣遊戲生態圈,讓開發者加速打造出更多手遊大作。

在聯發科看來,遊戲是AI最好的實作場景,因為它是獨立完整的自己的場景,它可以提供更多試錯的空間。而聯發科也在利用長期以來和遊戲工作室合作的經驗和Arm交流,共同探索如何讓GPU更多地去滿足和賦能開發者的實際需求。

多年來,聯發科NeuroPilot 的天璣AI開發平台生態和遊戲生態不斷完善,為開發者提供多樣SDK。目前,天璣AI開發者套件已覆蓋智能電話、智能汽車、物聯網、個人電腦等智能終端器材,為全場景生成式AI套用開發賦能;天璣遊戲生態在不斷拓展壯大,並越來越多地與開發者合作,協同打造更多地爆款遊戲提升體驗。

此次天璣開發者大會,聯發科攜手10余家生態鏈夥伴開設展台,展現了豐富多樣且已成熟落地的生成式AI套用,不斷引來現場觀眾、開發者們的熱烈探討。駐足體驗。而在當日下午舉辦的一系列技術論壇,多名聯發科資深專家,以及來自抖音、Arm、騰訊、王者榮耀、網易雷火遊戲引擎、Soul的資深專家等頂級開發者們,帶來生成式AI、遊戲技術等多方面技術分享與實踐經驗。

可以看出,聯發科目前已依托天璣芯片平台,構建起完善、高效的移動AI生態鏈,未來將會有更多、更廣的生成式AI、遊戲套用將受益於天璣AI平台,不斷激發新的靈感。

聯發科此次舉辦天璣開發者大會,展現All in 了其引領行業把握生成式AI機遇,構建移動端全場景生成式AI套用生態的決心和技術實力,同時諸位重磅廠商嘉賓的參與,也證實了聯發科在此次移動生態變革的領導力。隨著AI大模型復雜度的增加、芯片技術的叠代,未來開發者將更加需要聯發科這樣引領者,不斷精進工具鏈生態,培育創新土壤,啟用端側生成式AI創新動力。相信聯發科將攜行業夥伴,一同加速萬物AI時代到來。(校對/孫樂)