芯东西(公众号:
aichip001
)
作者
|
香草
编辑
|
漠影
AI PC在商用领域,能带来什么样的新质生产力?
芯东西4月2日报道,近日,英特尔重磅推出 全新商用客户端AI PC产品 ,将基于英特尔酷睿Ultra处理器的AI特性扩展至商用领域,在AI PC规模应用元年,踏出行业落地的关键一步。
酷睿Ultra处理器是英特尔 40年来最大的架构变革 ,其首次引入 两颗低功耗内核 、首次集成 独立显卡架构 ,并集成了 NPU (神经元处理器),通过三大AI引擎架构革新,可 本地运行200亿参数大模型 ,无需联网即可秒级生成高质量多模态数据。
本次发布将酷睿Ultra的能力从个人延伸至行业,在视频会议、多媒体处理等商用场景中,相比上一代产品处理器功耗下降最高 36% ,生产力提升最高 47% ,视频编辑的AI性能提升 2.2倍 。
发布会现场,英特尔与超35家ISV(独立软件开发商)及10家OEM(原厂设备制造商)合作伙伴分享了酷睿Ultra在商用AI PC中的应用爆发,全方位瞄准 AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理 六大AI场景,在 经济、物理、数据保密 三大AI PC法则的指导下推动各行业数字化转型。
那么,英特尔此次升级的产品点具体有哪些?六大AI场景中,具体有哪些创新应用?为什么说本地生成式AI是必然的趋势?芯东西通过现场调研,寻找这些问题的答案。
一、低功耗、独立显卡、 NPU 三大 AI 引擎架构更新,本地跑 200 亿参数大模型
英特尔酷睿Ultra处理器专为AI PC打造,其采用全新英特尔4制程工艺,基于3D性能混合架构,将两个内核微架构组合至同一个处理器芯片上,并可提供内置英特尔锐炫GPU。
![](https://img.jasve.com/2024-4/11d32b8199a8b2d4cbf928357b2e6a26.webp)
Platform diagram for the Product brief for Intel® Core™ Ultra Processors.
▲英特尔酷睿Ultra性能一览(图源:英特尔)
据英特尔客户端事业部副总裁、细分市场部总经理冯大为介绍,面向企业用户,酷睿Ultra处理器在CPU+GPU+NPU三大AI引擎上做了重大架构更新,能够支持200亿参数大模型在本地运行,无需联网即可秒级生成高质量图片或视频。
![](https://img.jasve.com/2024-4/f2edbe69a25500de8e4be9bdce6d6915.webp)
▲面向企业用户的酷睿Ultra处理器
一是 CPU上的低功耗管理 。酷睿Ultra首次引入两颗低功耗内核,其专为多线程可扩展性能和分载后台任务而设计,更优的性能核和能效核带来更高数据吞吐量,办公场景性能提升最高可达47%。
二是 GPU首次集成了独立显卡架构 ,英特尔锐炫GPU带来最高2.2倍的性能及性能功耗比提升,让视频剪辑速度更快,视频体积更小。
三是 采用NPU进行AI推理 ,在视频会议等场景中功耗最高下降36%,基于Intel 4制程工艺和3D高性能混合架构的设计,大幅提升续航能力,让AI体验更省电。
此外,此次酷睿Ultra内置的ARC显卡已达到移动工作站的性能需求,在3D渲染评分上最高达到上一代产品12倍的性能。
二、从聊天机器人到 AI Agent ,六大 AI 场景应用爆发
工业和信息化部赛迪研究院数据显示,到2035年,生成式AI有望为全球贡献近90万亿元的经济价值,其中中国将突破30万亿元。AI市场蕴含着巨大的潜能,其中丰富的创新AI应用成为商用AI PC产业发力的重点。
英特尔中国区技术部总经理高宇描绘了英特尔锚定的六大AI场景应用图,以AI Chatbot、AI PC助理、AI Office助手、AI本地知识库、AI图像视频处理、AI PC管理为横坐标,医疗、教育、法务等各行业为纵坐标,形成一张巨大的应用场景蓝图。
![](https://img.jasve.com/2024-4/e8e0dcfd3e1fe79ce58ea4f73e810424.webp)
▲六大AI应用场景
英特尔发布会现场,有35+家本土ISV合作伙伴向我们展示了商用AI PC在 六大AI场景+AI行业应用 等垂直领域的潜能。
1 、 AI Chatbot :直击行业应用痛点,提供专业领域问答
操作系统技术提供商中科创达人工智能中心副总裁杨新辉,演示了魔方智能法务助手,其基于基础语言大模型,结合百万条法律大数据训练得到70亿参数规模的AI PC端侧大模型,提供案件分析、文书撰写等法律相关功能。
![](https://img.jasve.com/2024-4/e3c8b91c8b62cc39a453c8f6f3f0da06.webp)
▲魔方智能法务助手
中科创达大模型产品负责人邱瑞翔告诉芯东西,法律卷宗等数据隐私性很高,需要进行严格的数据监管。同时律师群体出差频率高,常遇到在飞机上办公等无网络的场景。AI PC将大模型搬到了终端上,杜绝了信息泄露和断网的影响。
2 、 AI PC 助理: AI 智能控制,简化各种 PC 操作
智谱AI基于酷睿Ultra打造了AI PC智能助手,提供AI智能控制、PC使用问答、文档内容提炼等功能。其COO张帆展示了该应用的智能操作功能,输入一句包含静音、切换性能、打开文件3个操作的指令,PC便按顺序完成了3个操作。
![](https://img.jasve.com/2024-4/77e1313d8e1538c777236e0a833688c0.webp)
▲AI智能控制演示
值得注意的是,在打开文件的指令中用户无需给出完整准确的文件名,只需采用「上次打开的」「昨天没看完的」等模糊描述,大模型就可以根据使用记录或用户习惯,找到需要的文件。
3 、 AI Office 助手 : 玩转 「 办公三件套 」, 提高办公效率
专注Office「办公三件套」扩展工具开发的ExtendOffice的CEO林洁演示了基于本地AI的全新插件Kutools AI。
表格工具Excel中有许多复杂的公式,造成了一定的学习成本,同时企业客户的大量数据具有高度隐私性,上传到云端会有泄露风险,这使得本地化的离线数据处理极为重要。
Kutools AI以侧边栏形式呈现在应用中,用户可使用自然语言输入指令。如用户想将「金额」一栏的数值按汇率换算成人民币,只需输入「美元转人民币」指令,Kutools AI便会弹出对应聊天框,再输入相应的汇率即可自动完成换算。
▲使用Kutools AI将美元转换为人民币
4 、 AI 本地知识库:深挖企业私域数据,快速文档处理和知识检索
星环科技副总裁杨一帆介绍了RAG(检索增强生成)产品无涯-问知,基于AI PC能力,它能快速将本地文件资料转换成知识,支持多种格式和模态、不限长度文件自动入库。
![](https://img.jasve.com/2024-4/8f97b54f2e501a1c2b1cb66e2cb917f5.webp)
▲无涯-问知产品功能
该产品契合AI PC全部三条法则。首先数据在本地处理,避免了云服务费用,从而降低了AI服务成本;其次避免了数据传输中的瓶颈,满足物理法则;最后数据全部保存在本地设备上,保障了安全性和隐私性。
5 、 AI 图像视频处理:随时随地后期,开辟全新媒体制作方式
在多媒体处理赛道,视频等大文件的传输十分考验网络速率。当虹科技CTO黄进展示了基于AI PC打造的视频慢动作解决方案,用大模型生成更多的视频帧,实现3倍慢动作视频生成。
▲当虹科技视频慢动作解决方案
一方面,本地化的视频处理降低了数据传输和云服务成本。另一方面,在酷睿Ultra加持下原本只能在专业服务器和大型工作站才能实现的能力,现在也可以普惠到企业用户。
6 、 AI PC 管理:借助 NPU 处理能力,增强设备资产安全性
在商用领域,资产安全性极为重要。火绒安全、贝锐向日葵、VMware等厂商基于NPU强大的处理能力,将AI运用到威胁检测、安全风险管控、远程操作等应用中,解放了CPU算力,提升了商用PC管理效率。
![](https://img.jasve.com/2024-4/48ccfc21f96db2f6e89a55142e272384.webp)
▲AI助力商用PC管理
这六大应用场景,延伸到具体的垂直行业领域中,又能带来不一样的想象力。
在 医疗 行业,AI制药头部企业英矽智能通过在AI PC部署大模型,推出AI生物学软件PandaOmics,基于超过20种预测模型和生成生物学模型,实现专业的靶点筛选、排序和分析,提升了药物研发效率。
![](https://img.jasve.com/2024-4/e7ac926dd6aad9e312a28e9d81aec28e.webp)
▲英矽智能AI生物学软件PandaOmics演示
在应用展区,英矽智能BD吴剑宇向芯东西演示了PandaOmics的知识图谱和问答功能,通过来自公开文献、科研基金、临床试验的文本数据,该软件能自动生成知识图谱,用户可在左侧交互窗口进一步追问。
据其介绍,医院内部数据具有高度隐私性,本地化的大模型和算力可在满足数据安全的前提下,提升医生和科研人员在药物研发阶段的效率。
在 数字人 领域,英麒智能利用酷睿Ultra处理器和OpenVINO深度学习套件,打造了低成本、高质量的数字人解决方案,实现快速精准的数字人智能问答。
据英麒智能介绍,用户只需录制约2分钟的视频,通过10分钟左右的云端计算,即可生成专属数字人模型,之后便可结合本地大语言模型离线使用。
高宇展示了他在会前录制的数字人模型,其口型同步、手部动作等十分生动,几乎达到「以假乱真」的程度。
▲高宇展示其数字人视频
总的来说,在经济法则中,AI数据在本地处理可降低云服务成本,优化经济性;在物理法则中,AI服务的及时性和准确性要求提升云与端之间的传输速度,解决瓶颈;在数据保密法则中,需要保证用户数据的安全和隐私,防止滥用和泄露。AI PC三大法则为AI应用指明了方向,生成式AI本地化成为必然趋势。
结语:英特尔商用 AI PC 打通行业落地最后一公里
通过三大AI引擎架构升级,英特尔为AI PC应用打通了落地最后一公里,基于经济、物理、数据保密三大法则,提供了AI本地化的底层基础。
去年10月,英特尔开启「AI PC加速计划」,5个月以来已累计2120个报名团队,孕育出1083个高质量的创新AI应用。值得一提的是,报名团队中超30%都来自高校大学生。
为了激励更多开发者加入,英特尔宣布「AI PC加速计划」再添两项新举措,新增「AI PC开发者计划」,并吸纳独立硬件供应商加入,以加速在2025年前为超过1亿台基于英特尔平台的PC带来AI特性。相信未来,我们会看到更多本地化AI应用,为商用场景带来更多新质生产力。