當前位置: 華文世界 > 科技

「元腦企智」EPAI:企業AI套用從「手工作坊」到「工廠高精產線」

2024-10-09科技

長假過後,總會有不少職場人患上「節後症候群」,不僅上班打不起精神,連自己以前是幹什麽的都快忘了。

這時候,大家特別羨慕鋼鐵俠,可以把各種瑣碎的事情都交給智能助手「賈維斯」來完成,自己只管發明創造、實作自我。

但開發專屬於自己的「賈維斯」,這就難倒了不少人。

我們曾報道過, 浪潮資訊的「元腦企智」EPAI(Enterprise Platform of AI),可以高效開發部署生成式AI套用。 實際效果到底如何?很多讀者特別好奇。

最近我們得知,浪潮資訊售前部門使用「元腦企智」EPAI,一群不懂編程的售前人員,靠自己完成了大模型精調、知識庫、RAG等技術活,手搓出了AI助手「元小智」。

在其他銷售人員節後狀態還沒恢復,為招投標書的文山會海而苦惱時,「元小智」可以幫助浪潮資訊售前進行招投標的文件閱讀、分析、處理和生成,讓售前人員可以輕裝上陣,堪稱是攻克「節後症候群」的最強助攻。

與其羨慕電影虛構的鋼鐵俠,不如把目光放到現實中,放到這群剛剛給自己手搓了一個AI助手的浪潮資訊售前人身上。從他們的職場故事中,找到也能讓自己化身「超級英雄」的助攻力量。

鋼鐵俠和超級英雄們的故事,總會從拯救一場地球甚至宇宙的危機開始。而浪潮資訊售前人員,都是一群不懂編程、以前也從沒幹過AI開發的人,當他們決定自己動手開發AI助手,還真有點超級英雄們「雖萬難而吾往矣」的精神了。

那麽,他們又遇到了什麽危機呢?

售前崗位的核心價值是理解客戶需求,敏銳洞察市場,並將公司的產品方案,透過強大的溝通技巧,撰寫適配於客戶需求的解決方案,並與之深度交流討論。然而現實中,售前人員並不能將所有時間精力都投擲在需要發揮創造力、溝通力的工作內容上。

他們面臨著「三座大山」:

任務多。 每天閱讀和分析冗長的招標檔,隨時關註並跟進市場的最新動態,對齊投標檔的格式、檢查錯漏等,重復枯燥,耗時耗力。

壓力大。 一個招標專案往往只有一兩周的時間,售前人員要在有限的時間內完成工作,加上商務資訊敏感,不能假手於人,時間精力不夠,工作壓力山大。

開發能力要求高。 大模型爆火之後,售前部門意識到,文本整理、資訊搜集、數據查詢類大量的重復低效工作,都可以交給AI自動化完成。但是,由於IT售前技術名詞多、術語多、專業技能要求高的崗位,有大量的知識know-how沒有被文本化,通用大模型學不到。此前沈澱的售前數據,包含了各種格式的文件,還需要進一步處理才能被大模型所用,而這些開發步驟所涉及的技能,超出了售前人員的能力邊界。

這種情況下,售前人員一開始想呼叫援助,找軟件部門幫忙,但是,浪潮資訊內部的智能化升級也很迅猛,很多業務部門都在擁抱AI大模型,來改造工作流,開發人員的需求已經排長隊了。而且,售前AI助手的開發,還需要業務和開發一起碰需求、定方案、敲細節,雙方團隊你等我、我等你,不知道要等到什麽時候。

移除售前工作中的「三座大山」,浪潮資訊售前部門急需自己動手,來打造一個類似於「賈維斯」的專屬AI助手,把自己寶貴的精力從繁瑣工作中解放出來。

這時候,售前部門想到了浪潮資訊已經釋出的一站式工具賦能平台「元腦企智」EPAI。

在元腦企智EPAI全棧技術的助力下,不懂編程的售前人員,只靠1人1月,就完成了模型微調、套用開發和釋出,打造出了智能售前助手「元小智」。

並且,「元小智」能力強大,身兼數職。 「元小智」可以是秘書,幫助業務人員一鍵處理招標檔,對招標檔中的重要資訊進行全面且準確地解讀;可以是百科全書,為售前人員快速進行浪潮資訊全系列在售產品及方案的查閱,生成產品優勢、核心參數等資訊,輕松應對客戶問題;可以是搜尋引擎,為售前人員快速掌握業界資訊與競品資訊,把更多時間放在需求洞察、競品分析、方案客製、客情維護等更高價值工作上。

售前人員終於可以像鋼鐵俠一樣,把後背交托給AI助手,自己去馳騁職場了。

是什麽讓售前人員無懼AI套用開發?

究其原因,是元腦企智EPAI具備「上手快」「精度高」「易部署」「安全可靠」四大特點,而這恰好滿足了售前部門在各個開發階段的需求。

數據準備環節:

售前AI助手需要專業、全面地了解分析公司產品和招投標文件,而產品資料、解決方案、招投標專案書與行業報告等檔,涉及各種模態和數據格式,有的是結構化數據,比如產品參數列格;有的是非結構化數據,比如客戶溝通紀要,要想充分利用起來這些資訊,就得構建專用知識庫。

售前人員借助「元腦企智」EPAI的數據處理工具,對結構化數據進行自動解析,轉化為標準格式的知識庫條目;對非結構化數據,也能自動提取有用資訊並進行高效儲存。

最終,從1500+的 pdf、docx、doc、xls 等多種格式在內的數據中,構建了8 大業務線全部在售產品的知識庫。

微調環節:

有了售前知識庫,通用基礎大模型相當於上了專業課,但還沒有經過職場歷練,不懂招投標工作中的真實業務邏輯,所以還需要微調。

微調過程中,售前人員需要做兩件事:一是基於業務真實數據,構建高質素的微調數據集,涉及數據的清洗、過濾等準備工作;二是微調,要經過多次調參,不斷叠代,找到最佳的微調效果。其中涉及的繁瑣工作也並不少。

售前人員利用元腦企智EPAI的全鏈路數據治理工具,首先完成了數據生成,從種類多樣、場景復雜、規模龐大的招投標檔、產品資訊、行業報告中,自動抽取生成微調數據。接下來,借助評判大模型,對生成的每一條微調數據進行自動打分,剔除低質素數據,最終形成了數十萬條高質素微調數據。然後,再利用零程式碼微調工具進行模型微調,實作模型專業能力提升。

產品功能環節:

透過知識庫和微調,售前人員擁有了符合業務需求的招投標大模型,但大模型是很難被業務人員直接使用起來的,還必須經過產品化、功能性開發,讓AI好用、易用。此外,在日常使用中,還需要考慮到招投標的資訊敏感性,實作AI套用的安全可靠。

這一系列問題,透過元腦企智EPAI也得到了很好地解決。平台提供的多種套用開發工具,支持多種參數的設定、修改。內建的對話式套用支持多輪對話、長文本分析、單文件對話、網絡檢索等互動功能,可以滿足使用大模型的多種功能需求。

同時支持本地化部署,企業可以透過元腦企智EPAI,完成大模型套用的私有化本地開發、部署,在確保數據絕對安全的同時保證套用的高可用。

所以,總結一下「元小智」在元腦企智EPAI上的開發特點:

1.快速。用時短,效率高,很快完成套用的研發上線。

2.專精。結合了售前專有數據和知識庫,讓AI套用真正成為生產力工具。

3.極簡。零基礎、零門檻也可上手開發。

「自己的降落傘自己先跳」,浪潮資訊售前人員用元腦企智EPAI為自己打造了一個解放職場生產力的AI助手,似乎是理所應當的。

我們能從中學到什麽呢?

透過「元腦企智」EPAI ,AI套用開發已經從軟件開發工程師才能搞定的「職人技」,變成了自動化、標準化生產的工業品。

也就是說,規模化批次制造「賈維斯」,和其他各種AI套用,已經不再遙遠了。

當前AI在各行各業的整體滲透率不到10%,大模型落地的最大阻礙,就在於懂業務的人不懂、不會AI開發,導致大量企業的獨特需求,以及長尾場景的客製需求,無法被充分滿足。

AI大模型想要在千行萬業中落地,迫切需要改變生產模式,從編程人員的「職人技」,變成普通人也能輕松搞定的「工廠高精產線」。

這正是「元腦企智」EPAI想要解決問題,從售前手搓「元小智」來看,確實做到了。 怎麽把AI套用開發的門檻打下來,浪潮資訊用了三步:

第一步,細致拆解,所以全面。 透過細致拆解,搞清楚AI套用開發工作流的每一步都包含哪些內容,以及每一個環節可能遇到的開發難點是什麽。舉個例子,「元腦企智」EPAI的工具顆粒度,細致到了某一個開源或閉源模型怎麽調,一個問答對怎麽構建,都進行了全面的考量,這就減少了普通人在AI套用開發中遇到問題而中途放棄的可能性。

第二步,標準化,所以高效。 拆解完成之後,「元腦企智」EPAI對AI開發中可以被自動化、標準化的步驟,進行了工具研發,比如數據準備、模型訓練、知識檢索、套用框架等,都有趁手的工具,減少開發工作量,提高開發效率,縮短開發周期。

第三步,全鏈貫穿,所以有實效。 我們都知道,全鏈路貫通可以發揮出1+1>2的效果,讓生產效率指數級增長。試想一下,如果開發者不得不在A工具上清洗數據,在B平台上訓練模型,在C平台上進行部署,中間會帶來多少相容性問題、中斷和等待?所以,AI套用開發必須全鏈路貫通,「元腦企智」EPAI端到端開發平台的特性,讓企業人員的AI套用開發過程暢通無阻,真正提高生產力,發揮出提質增速的實效。

當將AI套用開發變成「工廠高精產線」,千行百業的創造力才能被充分釋放出來,真正擁抱AI和大模型,開啟規模化普及時刻。

所以,元腦企智EPAI可能是AI套用最理想的生產車間。

科幻電影中,人類社會遭遇的許多危機,最終都只有靠人的創造力、勇氣與情感才能應對。鋼鐵俠需要多個AI助手,來讓自己更專註於跟夥伴合作、解決復雜問題。

從這個角度講,越來越多的人憑借元腦企智EPAI,加入AI套用開發的行列,化身智能時代的「超級英雄」,我們將會進入一個人類創造力大爆發、AI生產力大爆發的全新階段,將曾經和未來的危機都一一解決,人機協作的新世界會更美好。