來源：至頂網
自ChatGPT在2022年底釋出，生成式AI的興起到現在已有將近2年，我們見識了其在ToC領域的高歌猛進。也正是有了2年的沈澱，生成式AI也開始逐漸轉向ToB，越來越多的企業希望將其嵌入到自己的工作流中，實作整體的降本增效。
東軟研究院常務副院長兼東軟魔形科技研究院常務副院長聞英友多年來一直從事AI技術及套用的研發。在他看來，從最初千篇一律的延續互聯網思維實作大模型套用落地的想法，到現在越來越多的關於大模型ToB場景套用價值的討論，都反應了一個重要的認知，生成式AI必須與行業和企業的業務場景、實際需求緊密結合，才能有價值變現的可能。
「不能僅僅靠好玩、新奇的體驗或者尋找所謂殺手級套用來驅動生成式AI的長期可持續發展。」聞英友說。
作為企業IT建設一路走來的同路人，ISV（獨立軟件開發商）無疑是生成式AI真正大規模落地的最關鍵環節，作為鋪路人，ISV掌握著生成式AI ToB套用的最後一公裏。東軟作為在中國市場上深耕三十多年的ISV，期待著在這樣一個偉大的智能化時代，抓住難得的機遇，重新定義東軟的角色和價值。
ISV有了新的角色和價值
中國第一批ISV起源於20世紀80年代末，當時PC逐漸進入中國，很多外國軟件不能照搬，也就在那時中國ISV開始迅速發展崛起。
現如今，ISV已經成為行業解決方案和企業套用的最終實作者，是資訊化和數碼化的鋪路人。在企業長久的IT發展中ISV發揮了重要的作用，而且ISV也在時刻關註著各種技術的發展，不斷豐富著自己的產品能力。
AI技術就是其中之一，AI是一個發展歷程較長的技術，最早可以追溯到上世紀50年代。在生成式AI到來之前，AI一直處於判別式時代，ISV在之前就已經在解決方案和套用中整合了大量的AI能力，業務賦能效果也非常明顯。
但聞英友認為，這種AI賦能由於受判別式AI本身泛化能力和場景局限性的影響，很難改變ISV的角色和價值定位。
伴隨著以生成式AI為代表的新一代人工智能技術的快速發展，其在互動、事務、認知以及決策等方面表現出來的強大的泛化能力和場景適應能力，傳統意義的ISV角色和價值定位都發生了重大的改變。
多年來ISV積累了眾多領域的豐富經驗和業務知識，以及對企業數碼化的認知，這些是AI廠商所不具備並且無法短期時間內補足的，因此在生成式AI的變革浪潮中，ISV的角色和價值都將發生巨大的變化。
ISV要做「AIGC的行業嵌入」
了解行業，了解業務，了解客戶，理解客戶的價值訴求，這些都是生成式AI在ToB場景落地必不可少的前提和條件。
「在新一輪生成式AI變革中，ISV應該堅持一種AIGC套用思維，而不是所謂的大模型思維」。 聞英友解釋稱，ISV應該圍繞行業和企業的需求去思考該做什麽，而不是圍繞大模型本身去思考能做什麽？東軟把這種思維定義為「AIGC的行業嵌入」，這也充分體現了在通用人工智能時代，ISV的核心競爭力。
踏實做套用，不強調模型參數和實作更強的AGI能力也成為現在ISV們的統一表現。
聞英友認為，由於出發點的不同，造成了ISV和非ISV核心競爭力的差異，當然這種差異是具有互補性的，只有好處，沒有壞處。
越來越多的企業也從喧囂紛亂的市場上，逐漸認識到具體的生成式AI專案實施，ISV無疑具有天然優勢。
「大模型預訓練的技術門檻沒有那麽高，國內和國外有一定差距，但國內目前備案的180多個大模型在能力上沒有本質差別。」聞英友說，沒有哪個具有獨門絕技讓自己的大模型能力卓爾不群，所以目前生成式AI專案實施的關鍵還是怎麽用好大模型，而不是大模型本身，這也是對ISV有利的一點。
東軟作為中國最早上市的軟件企業，在智慧城市、醫療健康、智能汽車互聯、企業數碼化轉型、國際軟件服務等多個領域有著三十多年的持續耕耘。在人工智能的發展過程中，東軟透過東軟研究院、東軟智能醫療科技研究院等組織，深入開展AI核心技術和演算法的研究，並廣泛套用於各行業領域的產品和服務之中。
有準備的迎接生成式AI的機遇與挑戰
當前生成式AI技術的市場還並不成熟，企業雖然看到生成式AI解決方案的市場需求呈現出全領域、全業務增長的態勢，但從實際需求到真正專案落地，市場還是表現出很明顯的謹慎態度。
ISV一方面面臨著角色和價值重新定義的重大機遇，一方面又掌握著ToB的AIGC套用最後一公裏。
2023年初，東軟成立了魔形科技研究院投入大量資源建設算力平台和訓練平台，專門研究生成式AI與AIGC行業套用涉及的核心技術，迎接生成式AI的機遇和挑戰。
東軟魔形科技研究院啟動和實施東軟「大語言模型系統工程（LLM Systems Engineering，LLM-SE）」戰略，面向醫療、人社、醫保、政務、金融、媒體、人力資源及智能汽車等所有業務領域，構建東軟LLM-SE+領域套用。
並且在今年，東軟集團創始人、董事長劉積仁明確提出並全面實施了智能化解決方案戰略，將AI、大數據等先進技術融入更多行業套用，推動產業升級和數碼化轉型。
雖然更多的客戶需求是「AIGC的行業嵌入」，但AIGC行業套用的真正落地卻充滿挑戰。因為行業企業客戶在認知上有很多資訊輸入渠道，認識的偏差常常帶來錯誤的判斷和預期，容易對生成式AI產生不符合實際業務需求的過高期待，或者對生成式AI持懷疑態度進而等待觀望。
東軟認為把AIGC能力輸送到客戶價值體系中就能夠把握市場的主動權，所以近兩年東軟也做了很多的工作幫助客戶實作認知的轉變，只有ISV和客戶的認知達成一致，才能真正實作生成式AI驅動的業務和價值變革。
生成式AI部署首先要統一認知
東軟在幫助企業部署生成式AI的過程中，遇到最多的兩個問題是客戶自身套用場景的挖掘、模型和算力的選擇困惑。
「我們經常看到很多客戶在不斷找場景，看案例。」聞英友說道，東軟一直積極協助客戶結合自身業務找到最佳的切入點和實作路徑，並全面規劃未來的發展，這也是作為ISV，與客戶一起成長義不容辭的責任。
在算力和模型的選擇上，根據模型參數規模、量化參數、推理加速方法等因素靜態推斷模型部署的算力需求是非常不可靠的，需要更多考慮成本和未來套用的擴充套件性。
不同的套用和不同的實作方式，都對模型和算力有不同的實際需求，比如一個非即時的文書生成套用和一個業務場景中的對話套用在首token響應時間上的要求完全不同，對模型和算力要求也完全不同。
聞英友指出，模型和算力選擇也和套用具體的實作有關系，一個套用如何呼叫大模型，呼叫的頻度以及平均單次呼叫的token數等等都會產生不同的系統壓力。中國目前生成式AI產業發展處於初始階段的定位，體現了AIGC套用的成熟度欠缺，市場總體上還處於一個賣模型和賣算力的階段，沒有更多的真正有價值的AIGC套用作為參照，造成了模型和算力選擇上的盲目。
東軟首先會協助客戶做好規劃，結合客戶實際和現階段生成式AI的能力和特點，找到切實可行的推進路線和套用切入點。在這個過程中，東軟特別重視發揮業務專家的作用，因為企業生成式AI成功落地的關鍵不在於大模型，而在於對業務的理解。
同時，東軟也積極向客戶展示各個領域不同類別的AIGC套用案例，這對於目前處於探索階段的行業和企業客戶來說，特別具有啟發作用。在具體專案實施前會透過各種測試重點解決客戶的模型和算力選擇困惑，在實施過程中就每一個生成功能點的特性需求，也就是東軟定義的生成效果的度量，保持與客戶即時溝通，讓客戶了解生成式AI的特點，進而能更好地配合和調整專案的交付目標，保證交付質素。
從技術到套用的一套方法論
東軟既有技術基礎作為保障，又有對AIGC行業套用有深刻的認識，並且圍繞智能化解決方案戰略，在四個方面進行了研釋出局並取得了關鍵技術的突破。
第一，通用大語言模型，東軟「領智」（IndustraMind）大模型的預訓練和國家備案，全面支撐了東軟多個行業的AIGC套用開發需求。
第二，智能體技術方面，東軟面向經辦類套用，自研了IndustraMind ToB智能體，全面支持了醫療、醫保以及人社領域的智能化解決方案實作。
第三，AIGC套用開發方面，東軟於2023年在業內率先提出了大語言模型系統工程(LLM-SE)概念，構建了開放框架，在知識工程、事務工程、互動工程以及可解釋工程等方面形成了關鍵技術和演算法，有效保障了企業使用者的AIGC套用效果。
第四，開發平台方面，東軟面向場景類套用，構建了AIMate大模型套用敏捷開發平台，全面支撐了政務、環保等領域的AIGC套用開發。
「大模型不等於大模型套用。」聞英友說，東軟把ToB的AIGC套用劃分為經辦類和場景類。場景類AIGC套用因為要結合客戶的業務場景，大部份是客製化的，傳說中的做一個所謂「行業大模型」就能滿足一切AIGC行業套用的開發需求僅僅是一種傳說，我們為行業客戶做的場景類AIGC套用，基本都很難復制到同一領域的另一個客戶現場。比如某藥廠做的生產工藝運維的大模型套用，因為藥的品種不一樣，生產工藝也完全不同，就無法復制到另一個藥廠。
對於客製化的AIGC行業套用，雖然很難實作場景的完全復制，但可以實作平台和技術的復用，這種復用是保障場景類AIGC套用效果和質素的重要基礎，這也是東軟研發投入的重點。
聞英友一直有一個觀點：尋找所謂的大模型殺手級套用是一個偽命題，如果大模型真正成熟好用，一切的套用都將被重新定義和開發，那麽一切套用都是殺手級套用。只不過目前的生成式AI還不成熟，實作不了這種全方位的替代。
東軟定義的智能化解決方案有四個發展階段，分別對應四種智能化，即：互動智能，事務智能，認知智能以及決策智能。重點面向醫療、醫保、人力資源和社會保障等使用者群體覆蓋廣，事務性工作負擔大，社會影響力深遠的領域。
目前，東軟基於東軟大語言模型系統工程（LLM-SE）以及自研的IndustraMInd ToB智能體技術，在人社領域已經完成了互動智能、事務智能和認知智能三個階段的研發目標。
透過自研智能體開發平台，東軟實作了領域業務流程和數據知識的智能體註入，設計並實作了「人社智用體」，重點解決人社領域面臨的客服工作量大，高頻業務辦理量大以及互動智能化和適老化的套用需求。
目前東軟「人社智用體」已經實作了Web業務系統到APP套用再到數碼人系統的全路徑升級，完成了人社領域的智能客服、業務辦理、咨詢建議等多個業務的統一入口整合，實作了「有事您說話」的智能套用模式，構建了虛擬櫃員服務模態。
寫在最後
大語言模型系統工程能力的持續提升，是東軟在這個時代的求存圖進的傍身之技，是致勝圖強的獨孤九劍。
以生成式AI為起點的AGI時代，ISV要重新思考自己的定位，東軟認識到在大模型預訓練和生產方面的經驗積累要弱於大模型廠商，但自身卻有著比較明顯的業務知識和數據資產優勢。因此，如何更好地開展與生態夥伴合作，面向行業領域構建領域專業大模型，進而更好地支撐套用的實作以及AIGC套用的持續最佳化，是需要重點布局的方向。
東軟希望完成從傳統軟件開發的商業模式到知識服務的商業模式的轉變，因為智能化解決方案不僅僅是鋪一條路，而是打造一個持續的數據價值和知識資產的生產系統，為知識服務的實作提供無限可能。
