芯東西(公眾號:
aichip001
)
作者
|
香草
編輯
|
漠影
AI PC在商用領域,能帶來什麽樣的新質生產力?
芯東西4月2日報道,近日,英特爾重磅推出 全新商用客戶端AI PC產品 ,將基於英特爾酷睿Ultra處理器的AI特性擴充套件至商用領域,在AI PC規模套用元年,踏出行業落地的關鍵一步。
酷睿Ultra處理器是英特爾 40年來最大的架構變革 ,其首次引入 兩顆低功耗內核 、首次整合 獨立顯卡架構 ,並整合了 NPU (神經元處理器),透過三大AI引擎架構革新,可 本地執行200億參數大模型 ,無需聯網即可秒級生成高質素多模態數據。
本次釋出將酷睿Ultra的能力從個人延伸至行業,在影片會議、多媒體處理等商用場景中,相比上一代產品處理器功耗下降最高 36% ,生產力提升最高 47% ,影片編輯的AI效能提升 2.2倍 。
釋出會現場,英特爾與超35家ISV(獨立軟件開發商)及10家OEM(原廠器材制造商)合作夥伴分享了酷睿Ultra在商用AI PC中的套用爆發,全方位瞄準 AI Chatbot、AI PC助理、AI Office助手、AI本地知識庫、AI影像影片處理、AI PC管理 六大AI場景,在 經濟、物理、數據保密 三大AI PC法則的指導下推動各行業數碼化轉型。
那麽,英特爾此次升級的產品點具體有哪些?六大AI場景中,具體有哪些創新套用?為什麽說本地生成式AI是必然的趨勢?芯東西透過現場調研,尋找這些問題的答案。
一、低功耗、獨立顯卡、 NPU 三大 AI 引擎架構更新,本地跑 200 億參數大模型
英特爾酷睿Ultra處理器專為AI PC打造,其采用全新英特爾4制程工藝,基於3D效能混合架構,將兩個內核微架構組合至同一個處理器芯片上,並可提供內建英特爾銳炫GPU。
![](https://img.jasve.com/2024-4/11d32b8199a8b2d4cbf928357b2e6a26.webp)
Platform diagram for the Product brief for Intel® Core™ Ultra Processors.
▲英特爾酷睿Ultra效能一覽(圖源:英特爾)
據英特爾客戶端事業部副總裁、細分市場部總經理馮大為介紹,面向企業使用者,酷睿Ultra處理器在CPU+GPU+NPU三大AI引擎上做了重大架構更新,能夠支持200億參數大模型在本地執行,無需聯網即可秒級生成高質素圖片或影片。
![](https://img.jasve.com/2024-4/f2edbe69a25500de8e4be9bdce6d6915.webp)
▲面向企業使用者的酷睿Ultra處理器
一是 CPU上的低功耗管理 。酷睿Ultra首次引入兩顆低功耗內核,其專為多執行緒可延伸效能和分載後台任務而設計,更優的效能核和能效核帶來更高數據吞吐量,辦公場景效能提升最高可達47%。
二是 GPU首次整合了獨立顯卡架構 ,英特爾銳炫GPU帶來最高2.2倍的效能及效能功耗比提升,讓影片剪輯速度更快,影片體積更小。
三是 采用NPU進行AI推理 ,在影片會議等場景中功耗最高下降36%,基於Intel 4制程工藝和3D高效能混合架構的設計,大幅提升續航能力,讓AI體驗更省電。
此外,此次酷睿Ultra內建的ARC顯卡已達到移動工作站的效能需求,在3D渲染評分上最高達到上一代產品12倍的效能。
二、從聊天機器人到 AI Agent ,六大 AI 場景套用爆發
工業和資訊化部賽迪研究院數據顯示,到2035年,生成式AI有望為全球貢獻近90萬億元的經濟價值,其中中國將突破30萬億元。AI市場蘊含著巨大的潛能,其中豐富的創新AI套用成為商用AI PC產業發力的重點。
英特爾中國區技術部總經理高宇描繪了英特爾錨定的六大AI場景套用圖,以AI Chatbot、AI PC助理、AI Office助手、AI本地知識庫、AI影像影片處理、AI PC管理為橫座標,醫療、教育、法務等各行業為縱座標,形成一張巨大的套用場景藍圖。
![](https://img.jasve.com/2024-4/e8e0dcfd3e1fe79ce58ea4f73e810424.webp)
▲六大AI套用場景
英特爾釋出會現場,有35+家本土ISV合作夥伴向我們展示了商用AI PC在 六大AI場景+AI行業套用 等垂直領域的潛能。
1 、 AI Chatbot :直擊行業套用痛點,提供專業領域問答
作業系統技術提供商中科創達人工智能中心副總裁楊新輝,演示了魔術方塊智能法務助手,其基於基礎語言大模型,結合百萬條法律大數據訓練得到70億參數規模的AI PC端側大模型,提供案件分析、文書撰寫等法律相關功能。
![](https://img.jasve.com/2024-4/e3c8b91c8b62cc39a453c8f6f3f0da06.webp)
▲魔術方塊智能法務助手
中科創達大模型產品負責人邱瑞翔告訴芯東西,法律卷宗等數據私密性很高,需要進行嚴格的數據監管。同時律師群體出差頻率高,常遇到在飛機上辦公等無網絡的場景。AI PC將大模型搬到了終端上,杜絕了資訊泄露和斷網的影響。
2 、 AI PC 助理: AI 智能控制,簡化各種 PC 操作
智譜AI基於酷睿Ultra打造了AI PC智能助手,提供AI智能控制、PC使用問答、文件內容提煉等功能。其COO張帆展示了該套用的智能操作功能,輸入一句包含靜音、切換效能、開啟檔3個操作的指令,PC便按順序完成了3個操作。
![](https://img.jasve.com/2024-4/77e1313d8e1538c777236e0a833688c0.webp)
▲AI智能控制演示
值得註意的是,在開啟檔的指令中使用者無需給出完整準確的檔名,只需采用「上次開啟的」「昨天沒看完的」等模糊描述,大模型就可以根據使用記錄或使用者習慣,找到需要的檔。
3 、 AI Office 助手 : 玩轉 「 辦公三件套 」, 提高辦公效率
專註Office「辦公三件套」擴充套件工具開發的ExtendOffice的CEO林潔演示了基於本地AI的全新外掛程式Kutools AI。
表格工具Excel中有許多復雜的公式,造成了一定的學習成本,同時企業客戶的大量數據具有高度私密性,上傳到雲端會有泄露風險,這使得本地化的離線數據處理極為重要。
Kutools AI以側資訊看板形式呈現在套用中,使用者可使用自然語言輸入指令。如使用者想將「金額」一欄的數值按匯率換算成人民幣,只需輸入「美元轉人民幣」指令,Kutools AI便會彈出對應聊天框,再輸入相應的匯率即可自動完成換算。
▲使用Kutools AI將美元轉換為人民幣
4 、 AI 本地知識庫:深挖企業私域數據,快速文件處理和知識檢索
星環科技副總裁楊一帆介紹了RAG(檢索增強生成)產品無涯-問知,基於AI PC能力,它能快速將本地檔資料轉換成知識,支持多種格式和模態、不限長度檔自動入庫。
![](https://img.jasve.com/2024-4/8f97b54f2e501a1c2b1cb66e2cb917f5.webp)
▲無涯-問知產品功能
該產品契合AI PC全部三條法則。首先數據在本地處理,避免了雲服務費用,從而降低了AI服務成本;其次避免了數據傳輸中的瓶頸,滿足物理法則;最後數據全部保存在本地器材上,保障了安全性和私密性。
5 、 AI 影像影片處理:隨時隨地後期,開辟全新媒體制作方式
在多媒體處理賽道,影片等大檔的傳輸十分考驗網絡速率。當虹科技CTO黃進展示了基於AI PC打造的影片慢動作解決方案,用大模型生成更多的影片幀,實作3倍慢動作影片生成。
▲當虹科技影片慢動作解決方案
一方面,本地化的影片處理降低了數據傳輸和雲服務成本。另一方面,在酷睿Ultra加持下原本只能在專業伺服器和大型工作站才能實作的能力,現在也可以普惠到企業使用者。
6 、 AI PC 管理:借助 NPU 處理能力,增強器材資產安全性
在商用領域,資產安全性極為重要。火絨安全、貝銳向日葵、VMware等廠商基於NPU強大的處理能力,將AI運用到威脅檢測、安全風險管控、遠端操作等套用中,解放了CPU算力,提升了商用PC管理效率。
![](https://img.jasve.com/2024-4/48ccfc21f96db2f6e89a55142e272384.webp)
▲AI助力商用PC管理
這六大套用場景,延伸到具體的垂直行業領域中,又能帶來不一樣的想象力。
在 醫療 行業,AI制藥頭部企業英矽智能透過在AI PC部署大模型,推出AI生物學軟件PandaOmics,基於超過20種預測模型和生成生物學模型,實作專業的靶點篩選、排序和分析,提升了藥物研發效率。
![](https://img.jasve.com/2024-4/e7ac926dd6aad9e312a28e9d81aec28e.webp)
▲英矽智能AI生物學軟件PandaOmics演示
在套用展區,英矽智能BD吳劍宇向芯東西演示了PandaOmics的知識圖譜和問答功能,透過來自公開文獻、科研基金、臨床試驗的文本數據,該軟件能自動生成知識圖譜,使用者可在左側互動視窗進一步追問。
據其介紹,醫院內部數據具有高度私密性,本地化的大模型和算力可在滿足數據安全的前提下,提升醫生和科研人員在藥物研發階段的效率。
在 數碼人 領域,英麒智能利用酷睿Ultra處理器和OpenVINO深度學習套件,打造了低成本、高質素的數碼人解決方案,實作快速精準的數碼人智能問答。
據英麒智能介紹,使用者只需錄制約2分鐘的影片,透過10分鐘左右的雲端計算,即可生成專屬數碼人模型,之後便可結合本地大語言模型離線使用。
高宇展示了他在會前錄制的數碼人模型,其口型同步、手部動作等十分生動,幾乎達到「以假亂真」的程度。
▲高宇展示其數碼人影片
總的來說,在經濟法則中,AI數據在本地處理可降低雲服務成本,最佳化經濟性;在物理法則中,AI服務的及時性和準確性要求提升雲與端之間的傳輸速度,解決瓶頸;在數據保密法則中,需要保證使用者數據的安全和私密,防止濫用和泄露。AI PC三大法則為AI套用指明了方向,生成式AI本地化成為必然趨勢。
結語:英特爾商用 AI PC 打通行業落地最後一公裏
透過三大AI引擎架構升級,英特爾為AI PC套用打通了落地最後一公裏,基於經濟、物理、數據保密三大法則,提供了AI本地化的底層基礎。
去年10月,英特爾開啟「AI PC加速計劃」,5個月以來已累計2120個報名團隊,孕育出1083個高質素的創新AI套用。值得一提的是,報名團隊中超30%都來自高校大學生。
為了激勵更多開發者加入,英特爾宣布「AI PC加速計劃」再添兩項新舉措,新增「AI PC開發者計劃」,並吸納獨立硬件供應商加入,以加速在2025年前為超過1億台基於英特爾平台的PC帶來AI特性。相信未來,我們會看到更多本地化AI套用,為商用場景帶來更多新質生產力。