當前位置: 華文世界 > 科技

從「百模」到「千行」的路,浪潮資訊是如何走的?

2024-05-01科技

導讀

「怕錯過」是生成式AI浪潮下企業的普遍焦慮。

針對大模型落地中的卡點,浪潮資訊拿出了怎樣的系統化解法?

2024年,曾經火熱的「百模大戰」,已經進入「千行百業」的實戰考驗中。

2023年,8個月內國內就誕生了238個大模型,相當於每隔1天就會官宣一個新的大模型,因此業界甚至有了「大模型日拋」的說法。

我們需要這麽多大模型嗎?2024年,借助市場之手,大模型將加速優勝劣汰。這雙無形之手就是套用。

只有套用,才能把大模型這個算力吞金獸,破解為企業用得起、用得好的生產力工具。

從「百模」到「千行」,也是人工智慧+的主戰場。近日,在第十屆浪潮資訊合作夥伴大會IPF上,浪潮資訊提出 「以套用為導向,以系統為核心」 的AI戰略,並釋出企業大模型開發平台元腦企智EPAI,從系統和全域視角,為大模型落地提供了新的解題思路。

人工智慧+時代,誰來緩解「怕錯過」的AI焦慮癥

「談到人工智慧的發展,現在有一個詞叫‘怕錯過’,每個人都怕錯過,我們的客戶也怕錯過,所以我們都在加速學習。」

在IPF大會上,作為元腦生態夥伴的中科軟董事長左春這樣表示。

「怕錯過」代表了生成式AI浪潮下企業普遍的焦慮。

今年3月,【連線】雜誌創始主編、暢銷書作者凱文·凱利在中國的一場演講中也提到,「你暫時不會被AI替代,但會被更擅長使用AI的人替代。」對於企業更是如此。

尤其在AI套用激增的當下,企業更是只爭朝夕,等不起,慢不得。

智慧演化論觀察,目前在智慧客服、智慧行銷、智慧財務稽核、投標助手等熱門領域,已經湧現出大量同類套用。

一方面,大量的IT服務商、雲服務商、ISV企業、SaaS企業都希望盡早開發出AI套用推向市場。另一方面,大模型的產業落地仍面臨較高的技術門檻、復雜的開發環節、高昂的試錯成本、較長的開發周期等挑戰。

目前,大模型底層的算力基礎設施日益復雜,同時2/3的大語言模型都選擇了開源路線。這既促進了AI產業的繁榮發展,也為AI套用開發帶來多元算力、多模演算法的挑戰,進一步推高了適配難度。

綜上, 「人工智慧+」的卡點在效率和成本。 而要解決這些挑戰,不是單一產品和平台能做到的,需要借助系統和生態。

如果我們回顧上一輪行動網際網路的創新創業浪潮,能夠快速試錯、不斷叠代的精益創業模式大受追捧。在「人工智慧+」的時代,這種模式依然有效。

面對大模型落地難的挑戰,產業各方都需要一個能夠低成本、高效率的套用開發方式,將大模型轉化為MVP(最小可行性產品)盡快投向市場。

也就是說,大模型落地需要一個幫助企業由虛入實的平台。正如元腦生態夥伴拓爾思董事長施水才的觀點,大模型的落地的重要挑戰要解決三個"實",實在,實用,實效。實在是指 AI落地的時候工程化交付非常重要;實用是需要與業務高度相關,需要和使用者的業務吻合;實效是需要降本增效。

在這樣的產業背景下,浪潮資訊推出了企業大模型開發平台元腦企智EPAI。

EPAI,端到端打通大模型落地障礙

EPAI是一個高效、易用、安全的端到端開發平台,提供數據準備、模型訓練、知識檢索、套用框架等系列工具,支持排程多元算力和多模演算法,能夠幫助各類企業「多快好省」地開發AI套用。

「生態的快速發展和繁榮需要有一個能夠連線、聚集力量的產品,這就是今天我們推出企業大模型開發平台EPAI的思考。我們希望透過EPAI開發平台, 為上萬家合作夥伴提供工具箱,提供方法論, 凝聚並激發生態的活力、夥伴的創新力,加速賦能千行百業的智慧化轉型。」浪潮資訊高級副總裁劉軍表示。

智慧演化論觀察,在幫助企業降低AI套用開發門檻方面,EPAI至少有五大優勢:

  • 高效率

  • EPAI支持Llama、ChatGLM、Baichuan、Qwen、「源」等中外主流開源與閉源大模型的套用快速開發,同時適配CPU、GPU、NPU、TPU在內的多元異構算力,能夠實作大模型套用在跨算力平台上的無感遷移。這樣企業就可以在多元多模的產業格局下快速試錯。同時,EPAI可實作百萬Token、千億參數、領域大模型的高效微調。

  • 高品質

  • EPAI提供上億條基礎知識數據,同時提供自動化的數據處理工具,幫助企業生成高品質的微調數據和行業/企業知識庫。檢索增強生成(RAG)技術,透過在地化檢索基礎知識+行業知識+企業知識,解決大模型知識更新不及時和幻覺等問題。

  • 低成本

  • EPAI上層模型演算法和下層基礎設施的邏輯解耦,即便夥伴和客戶要更換算力平台或者模型,都非常方便,試錯成本極低。同時,EPAI提供API、對話UI、智慧體三種使用方式,滿足不同技術開發者的需求。

  • 高安全

  • EPAI透過許可權管理、數據加密、內容審查等方式,保護企業數據、模型的安全。在保護使用者私密、符合安全合規的基礎上,充分利用數據價值。

  • 全生態

  • EPAI對元腦夥伴的賦能是全生態的。演算法、芯片、數據服務商等左手夥伴,可以將新的技術接入到平台裏,為所有生態合作夥伴所用。咨詢、ISV、整合商、分銷商等右手夥伴,可以在平台上選擇各類快速開發工具。

    本屆IPF大會,浪潮資訊還宣布了EPAI種子計劃,透過多種舉措幫助夥伴提升商用大模型開發能力,計劃3年內發展1000家夥伴。

    目前,無論是面向企業客戶和夥伴,還是浪潮資訊自身業務,EPAI都展現出顯著的降本增效的效果。

    借助EPAI平台,企業和ISV服務商可以極大縮短AI套用開發周期。在浪潮資訊內部,基於「源2.0」大模型開發的智慧客服、智慧編程、智慧投標助手等套用已經投入使用。目前,智慧編程助手完成超過65%的計算框架相關的程式碼生成,整體程式碼采納率達到了50%。智慧投標助手可準確辨識85%的招標檔關鍵資訊,秒級提取客戶核心需求與招標關鍵資訊。

    系統創新+全域最佳化,讓大模型加速奔向產業

    行業內,大模型開發平台並不罕見,浪潮EPAI的優勢何在?

    智慧演化論認為, 浪潮資訊圍繞演算法、算力、數據、互聯四大維度,進行系統創新+全域最佳化,為EPAI提供了系統化、全域化的支撐。


    演算法方面,浪潮資訊2021年就推出「源」大模型。2023年釋出的「源」2.0基礎大模型已經全面開源,並在編程、推理、邏輯等方面展示出了先進的能力。

    同時,浪潮資訊打通多元多模的協同路徑,以平台化、全棧化的全域最佳化理念,透過工具賦能進一步提高大模型套用開發效率。

    算力方面,浪潮資訊提出「一切算力皆AI」的理念,認為算力的發展不僅僅源於芯片,更源自系統創新。

    比如,2023年浪潮資訊釋出的融合架構3.0,打破了以芯片為核心的單機系統設計思路,是以萬卡集群作為設計出發點的、以系統為核心的全新架構。這代表了AI算力基礎設施的最新發展趨勢。

    數據方面,浪潮資訊持續構建融合高效、安全可靠的數據儲存平台,透過效能、融合、極致多方面的創新承載智慧時代套用的數據需求。

    互聯方面,浪潮資訊面向人工智慧場景提供超級AI乙太網路、IB網路等多樣化的網路解決方案。本屆IPF釋出的超級AI乙太網路交換機「X400」,國內率先支持Spectrum-X平台,相比傳統RoCE網路效能提升至1.6倍。

    浪潮資訊董事長彭震認為,人工智慧+既是目標,也是機會。 套用創新源自需求驅動,需要演算法、算力和數據協同發展,以系統為核心的全域創新已成為推動人工智慧高速發展的產業新範式。

    #你為什麽而焦慮#

    結語

    Gartner曾在【2024年十大戰略技術趨勢】中預測,到2026年將有超過80%的企業使用生成式 AI。

    豐富的數據和場景、完善的人工智慧產業鏈,是中國發力生成式AI的獨特優勢。

    從「百模」到「千行」的征途中,浪潮資訊EPAI將扮演生態樞紐的角色,端到端連線AI與產業,讓更多企業、個人共享生成式AI的技術紅利。

    文中圖片來自攝圖網

    END

    本文為「智慧演化論」原創作品,