大模型不是包治百病的靈丹妙藥，需要針對場景開方，對癥下藥。
作者｜伍月
編輯｜栗子
大模型究竟如何落地？
在2024年世界人工智能大會（WAIC）秀場，層出不窮的各類套用背後，我們看到了各家企業面對這個問題的解題思路。
能說會道、讓數碼人活靈活現只是小菜一碟。在酷炫的demo展示之外，產業視角的大模型正在變得更務實。在辦公、生產、教育、制造各個環節，大模型正在和各類軟件、機器人結合，幫企業提質增效。
「我們不關心大模型有多少花活，最重要是能幫我省多少錢、賺多少錢。」一位制造業企業市場負責人告訴「甲子光年」。
事實上，這個觀點已經成為了目前企業方對於大模型落地需求的共識——如何讓大模型這項新技術紮根產業，成為撬動新增長的動能，是企業方接納這項新技術的關鍵。
容聯雲是國內最早一批探索大模型在B端落地的技術服務商。在去年推出赤兔大模型之後，容聯雲正在親歷這場「大模型紮根產業」的新變化。
在2024WAIC會場，帶著更多和產業共創的思考，容聯雲容犀智能大模型套用正式官宣升級。與此同時，容聯雲還展示了他們在探索大模型落地上的新成果和前沿探索實踐。
1.變局中的不變：紮根業務
顯然，大模型並非靈丹妙藥。要想讓大模型發揮作用，需要綜合業務需求和技術功能，對癥下藥。
現階段的大模型能夠處理簡單對話，但是在處理企業復雜邏輯和推理任務時，需要結合行業知識進行調教，否則就會出現因缺乏訓練數據以及幻覺問題所導致的「一本正經胡說八道」。
此外，一項新技術融入到企業業務流程，需要時間去梳理，和內部的業務流程共通共融，才能真正改造和最佳化場景體驗。
容聯雲產業數碼雲VP兼諸葛智能創始人孔渺告訴「甲子光年」，大模型光有智能化能力還不夠。
「因為企業最終的需求並非借助新技術來顛覆客戶現有業務，而是要求新技術能夠改造和最佳化其已有的業務流程。這一改造過程既需保留並相容舊流程，又要巧妙融入新流程的體驗。」在他看來，在推出新模型的同時，還需為客戶考量更多，把工程化難題、數據難題等提前考慮到位。
這是容聯雲對於大模型落地B端的洞察和思考。孔渺告訴「甲子光年」，企業級的需求並非僅僅購買一個工具。客戶不會為單一的新技術點買單，而是看重其帶來的業務價值，即最終能節省多少成本、創造多少收入。所以，企業真正需要的是基於整體技術提升的完整業務解決方案。
「要和企業站在同一視角，紮根業務」孔渺強調。這一直是容聯雲大模型落地的核心。圍繞這條主線，過去一年，容聯雲除了赤兔大模型，還圍繞會話洞察、話術挖掘等細分功能點，釋出了容犀Copilot，幫助企業解決企業知識管理的效率問題。
2024年，容聯雲的思考依舊以業務為原點進行，並結合了新的技術思考，進一步深化、細化大模型在各類場景的套用。
所以，在WAIC活動上，我們看到，容聯雲對大模型套用產品進行了全新升級，進一步強化了其在復雜業務場景中的能力。
升級後的容犀智能包括大模型知識助理（Knowledge Copilot）、大模型洞察代理（Insight Agent）、大模型陪練代理（Coach Agent）、大模型坐席助理（Agent Copilot）、大模型坐席代理（Virtual Agent）等板塊。
其中，面向企業知識管理，容聯雲推出了容犀Knowledge copilot，解決原來企業內部知識管理成本高、檢索慢、準確率低、最佳化難的問題。
作為大模型知識助理， 容犀Knowledge copilot不僅能把企業知識構建成本下降4倍，還能把知識的套用效率顯著提升，讓客戶的等待時間從幾十秒級大幅降低到3~5秒。
此外，容聯雲也結合新的Agent技術讓行銷會話的各個流程實作顯著的質素和效率提升。
容犀Insight Agent是一款大模型洞察代理產品。不同於此前需要透過復雜的數據標註，引入大模型和Agent技術之後，使用者只需要輸入業務指令，容犀Insight Agent就能自己完成從任務目標理解、規劃到工具行動的全流程，自動在在工作台裏面發現潛在需求。
「容犀Insight Agent可以實作行銷轉化率5%-8%的提升，客訴率10%-30%的下降。」孔渺提到。
容犀Coach Agent則是大模型的陪練代理，透過智能體進行實戰陪練，不僅可以精準提升量化培訓效果，還能提供個人化陪練服務。據了解，容犀Coach Agent可以實作培訓周期縮短15%，會話違規率降低10%-20%，人均培訓成本下降12%。
容犀Agent copilot和容犀Virtual Agent則是瞄準了坐席溝通環節，其中容犀Agent copilot作為大模型坐席助理，可以透過大模型理解挖掘高質素話術給到人工坐席，提升整個服務質素，業務提效10%-30%；容犀Virtual Agent則可以實作服務覆蓋率的提升30%，實作轉人工率下降50%。
從這5款大模型套用可以看到，容聯雲在圍繞企業需求，把行銷場景做的更細分。相比去年的產品，此次容聯雲的新套用做的更完整，把技術封裝成完整產品面向終端客戶，讓企業能夠輕松上手。
這些多元的產品背後，容聯雲唯一不變的就是以需求為起點，從業務中生長。
在孔渺看來，在打造大模型套用時，不能僅停留在表面，簡單的將多個功能堆砌在一起，而是需要深入考慮企業級流程，明確職責和流程形態，以及上下遊環節的配合方式。
在部署方式上，容聯雲也提供了靈活的選擇。目前這5款容犀的大模型套用不僅可以私有化部署，也可以根據企業需求提供有多重選擇，使用者既可以選擇全套解決方案，也可以以嵌入式AI的方式，植入自有平台。
2.厚積方能薄發，經驗優勢塑造壁壘
在多樣化的產品底層背後，支撐容聯雲產品創新和套用創新一直向前的是容聯雲「模型底座+智能平台+智能平台」的全棧技術路線。
容聯雲從產品架構到技術架構都做了封裝和分層設。
底層，赤兔大模型依舊是支撐大模型打造套用的底座。
赤兔大模型采用多層次設計思路——首先構建通用模型，透過開源和公開數據獲得通用知識和基礎能力；其次收集高質素的領域數據構建領域模型，以解決特定領域的問題；在業務邏輯和流程上提供智能化服務時，基於業務數據和知識構建高質素的業務模型。
相比其他通用大模型，容聯雲的優勢在於行業能力建設。
「大模型擅長處理和壓縮互聯網上的廣泛資訊，然而，很多專業知識，比如在金融、制造等特定場景中，其套用的流程和知識的復雜度仍然是一個巨大的挑戰。尤其是企業內部的專業知識是稀缺數據。」孔渺告訴「甲子光年」。這些通用大模型在專業數據上的短板，卻是深耕B端多年的容聯雲的優勢所在。
大模型在B端的套用是一項復雜工程，每個行業都有其獨特的復雜性和深度，通用大模型廠商無法深入到每個行業的具體業務細節中去，需要更懂產品、更懂場景的廠商來做。
B端對大模型的容錯率要求很低，專業度要求更高。孔渺舉了一個例子，比如銀行場景，如果規定系統反饋給8條答復，在to C場景下，如果生成10條反饋，使用者可能會覺得賺到了。但在to B場景下，如果規定8條卻生成了10條，主管可能會感到心慌，這兩條額外的反饋是否合規、是否嚴謹，都成為了需要考慮的風險問題。
解決這些企業復雜場景的能力，最終會沈澱為工程方案，讓容聯雲的行業能力像「滾雪球」一樣，隨著企業需求一起成長，並成為了企業的核心競爭力。
這種行業能力也在伴隨技術不斷生成。不論是去年的容犀Copilot，還是今年的5款新產品，都是公司持續升級的成果。在孔渺看來，持續跟蹤技術叠代並轉化為產品不僅能讓企業受益，也能進一步塑造容聯雲的行業壁壘。
「不論是目前火熱的Agent技術，還是RAG技術，難點不在於如何套用，而在於如何深度整合到現有的業務流程中，讓這些更多大模型、小模型以及傳統技術有效地融合在一起，為客戶提供一個更完整的套用解決方案，並實作無縫替換。」
目前，容聯雲的這些成果在金融、保險、制造等領域都已經有大量的成功實踐。在保險服務領域，透過讓大模型的洞察分析，不僅可以改善客戶的咨詢體驗，還能提前洞察客戶反饋，降低投訴。一家機構每天處理的會話量有一萬多，使用了容聯雲大模型之後，整個效果從效率提升了20倍，潛在的投訴率降低了10%左右。
這種新技術帶來的截然不同的體驗同樣發生在制造業。以電器上門維修服務為例，憑借大模型出色的理解能力，預警策略的整個準確率從原來的40%提升到80%左右，預警的周期變成周、天級別。
隨著大模型和行業能力不斷增強，眼下，容聯雲還在持續拓展大模型在各種不同場景的落地。隨著更多B端企業對大模型的態度從觀望轉向使用，大模型和更多行業和場景也在持續碰撞出全新的火花。
（封面圖來源：攝圖網）
