当前位置: 华文世界 > 数码

首款端侧应用70 亿参数大模型手机发布,OPPO Find X7

2024-01-08数码

随着科技的迅猛,人工智能已逐渐渗透到大众生活的方方面面。在当前数字化发展的时代浪潮下,OPPO正式发布了一款引领行业潮流的全新手机——Find X7。这款手机最引人注目的地方在于它首次在端侧实现了70亿参数大模型的部署,为用户带来了前所未有的快速响应和高智能化的使用体验。

得益于行业领先的安第斯大模型及其卓越的端云协同、智能调度能力,Find X7首次将70亿参数的大模型引入到手机端侧。这一创新举措不仅使得手机响应速度大幅提升,还显著增强了其推理性能和智能化程度。能够使用户明显的感受到Find X7与其他手机在AI方面的显著差异。

作为大模型技术生态中的先锋者,AndesGPT推出了多个模型选择,参数规模从70亿至1800亿等。通过其创新的「端云协同」架构,这些模型能够在本地与云端协同运作,为Find X7注入了全新的智慧能力。在多个权威评测中,AndesGPT均展现出了强大的实力,不仅在SuperCLUE能力排行榜的知识与百科评比中高分夺得国内模型第一名,还在C-Eval全球中文榜单中取得了首位。这些成绩充分印证了AndesGPT在人工智能领域的领先地位。

Find X7所搭载的AndesGPT大语言模型在端侧表现极为出色。该模型以用户为中心,通过对话增强、个性专属、端云协同三大核心能力,为AI助手在智能终端的落地提供了强大的支持。在实际应用中,Find X7在内容摘要首字的生成上实现了对竞品20倍的速度提升,同时也支持了更高的摘要字数上限,满足了用户在处理大量文字信息时的需求。

除此之外,Find X7还引入了生成式视觉模型,带来了图像语义理解、主体识别分割以及图像延展生成等能力。这些能力使得Find X7在图像处理方面更为出色,能够带给用户更加精准的AIGC消除功能。通过这些端侧大模型的能力,Find X7成功的将AI大模型从炫技的技术名词转变为了生活工作中实用的生产力工具。

为了实现这一技术突破,OPPO与MediaTek展开了紧密的合作,采用了业界领先的4位量化技术,共同推动了AndesGPT大语言模型和视觉大模型在端侧的逐步落地应用。在这项技术支持下,AndesGPT在端侧表现出更快的响应速度和更高的安全性。同时,通过采用两个优化方案对同一模型进行共同计算,进一步提升了模型的内容生成效率。此外,为了能够成功地在端部署70亿参数的大模型,OPPO还引入了AI Boost推理引擎和QNN Neural Pilot自研Transformer加速库,实现了对端侧部署性能的极致优化。

OPPO Find X7的发布,标志着手机端侧AI技术的发展迎来了全新篇章,同时其所具备的快速响应、高智能化和强大的推理性能,让人工智能不再是遥不可及的技术名词,实实在在的为用户带来了触手可及的智能化使用体验。