當前位置: 華文世界 > 數位

首款端側套用70 億參數大模型手機釋出,OPPO Find X7

2024-01-08數位

隨著科技的迅猛,人工智慧已逐漸滲透到大眾生活的方方面面。在當前數位化發展的時代浪潮下,OPPO正式釋出了一款引領行業潮流的全新手機——Find X7。這款手機最引人註目的地方在於它首次在端側實作了70億參數大模型的部署,為使用者帶來了前所未有的快速響應和高智慧化的使用體驗。

得益於行業領先的安第斯大模型及其卓越的端雲協同、智慧排程能力,Find X7首次將70億參數的大模型引入到手機端側。這一創新舉措不僅使得手機響應速度大幅提升,還顯著增強了其推理效能和智慧化程度。能夠使使用者明顯的感受到Find X7與其他手機在AI方面的顯著差異。

作為大模型技術生態中的先鋒者,AndesGPT推出了多個模型選擇,參數規模從70億至1800億等。透過其創新的「端雲協同」架構,這些模型能夠在本地與雲端協同運作,為Find X7註入了全新的智慧能力。在多個權威評測中,AndesGPT均展現出了強大的實力,不僅在SuperCLUE能力排行榜的知識與百科評比中高分奪得國內模型第一名,還在C-Eval全球中文榜單中取得了首位。這些成績充分印證了AndesGPT在人工智慧領域的領先地位。

Find X7所搭載的AndesGPT大語言模型在端側表現極為出色。該模型以使用者為中心,透過對話增強、個性專屬、端雲協同三大核心能力,為AI助手在智慧終端的落地提供了強大的支持。在實際套用中,Find X7在內容摘要首字的生成上實作了對競品20倍的速度提升,同時也支持了更高的摘要字數上限,滿足了使用者在處理大量文字資訊時的需求。

除此之外,Find X7還引入了生成式視覺模型,帶來了影像語意理解、主體辨識分割以及影像延展生成等能力。這些能力使得Find X7在影像處理方面更為出色,能夠帶給使用者更加精準的AIGC消除功能。透過這些端側大模型的能力,Find X7成功的將AI大模型從炫技的技術名詞轉變為了生活工作中實用的生產力工具。

為了實作這一技術突破,OPPO與MediaTek展開了緊密的合作,采用了業界領先的4位元量化技術,共同推動了AndesGPT大語言模型和視覺大模型在端側的逐步落地套用。在這項技術支持下,AndesGPT在端側表現出更快的響應速度和更高的安全性。同時,透過采用兩個最佳化方案對同一模型進行共同計算,進一步提升了模型的內容生成效率。此外,為了能夠成功地在端部署70億參數的大模型,OPPO還引入了AI Boost推理引擎和QNN Neural Pilot自研Transformer加速庫,實作了對端側部署效能的極致最佳化。

OPPO Find X7的釋出,標誌著手機端側AI技術的發展迎來了全新篇章,同時其所具備的快速響應、高智慧化和強大的推理效能,讓人工智慧不再是遙不可及的技術名詞,實實在在的為使用者帶來了觸手可及的智慧化使用體驗。