當前位置: 華文世界 > 科技

專訪中關村科金CTO李智偉:我們還處於+AI的時代

2024-08-31科技

作者:普森

在AI大模型賦能企業轉型的浪潮中,作為技術創新的前沿陣地,中關村科金今年升級了「得助智慧」全系產品,重磅推出了「多模數據增強的新一代智慧互動產品體系」。在套用中,電銷大模型、公安反詐大模型、醫保大模型、企業知識大模型等多款領域大模型套用開始為企業及政府機構賦能。

企業被AI賦能的同時,人們會擔心被AI替代人工。那麽AI到底是打工人的好助手還是競爭對手?

為此,我們專訪了中關村科金CTO李智偉博士,為我們深度剖析大模型在To B賽道的最新套用與未來趨勢。

Q:首先想問問李智偉博士,大模型在 To B 賽道目前的套用效果已經達到什麽樣的程度了?

李智偉:

根據早前的實踐經驗,我們認為大模型最先被套用的可能是一些通用的模型能力,並在細分場景中取得一些成果。但隨著實踐的深入,我們發現其實細分場景的模型訓練變得極為重要,尤其是在 To B 賽道。在非常專業的細分場景中,如果使用通用模型,其效果通常只能達到60-70分,然而實際業務需求往往需要80-90分的效果,所以針對每個細分的領域場景都需要進行一定的模型訓練和知識註入。

從技術角度而言,場景劃分得越細分,業務效果自然會越好。但實際上還需要兼顧實施難度和成本。倘若每個細分場景都進行 SFT (監督微調),成本是相當高的。

當一項新技術出現時,大企業由於具備較強的資金實力,也擁有強大的研發力量,所以能夠很容易地采納這些新技術。但對於中小企業來說,在技術發展的初期,落地的成本過高,則價效比未必理想。

隨著對大模型套用的叠代認知,我們發現透過結合知識外掛庫進行搜尋和檢索的增強,以及對細分場景進行適量的最佳化訓練,可以在控制成本的同時實作出色的業務效果。

中關村科金的實踐進一步證實了大模型技術的有效性。公司開發的大模型工具鏈平台,透過無程式碼、視覺化的方式,簡化了大模型從訓練到上線到最佳化的全過程,大大降低了實施難度和成本,使得企業能夠更加高效、低成本地利用大模型技術,實作業務的最佳化和提升。這些進展表明,透過合理的策略和技術套用,即使是中小企業也能夠克服成本和價效比的挑戰,充分利用大模型技術帶來的機遇。

Q:在新升級的智慧互動平台體系方面,中關村科金的核心競爭力和創新點分別是什麽?

李智偉:

中關村科金近期推出了多模數據增強的新一代智慧互動平台體系,這是一套大模型時代下人機智慧互動全新範式。透過全自研的多模態數據增強基座、全渠道聯絡中心基座,以及為智慧互動客製打造的智慧體工具鏈平台,為企業打造覆蓋使用者全生命旅程的智慧互動解決方案。

中關村科金產品體系

這套智慧互動平台體系的核心競爭力源自於中關村科金深厚的行業積累、對客戶需求的深刻理解,以及在大模型技術套用方面的持續投入和創新實踐。這些優勢使中關村科金能夠在智慧互動產品領域提供更加高效、智慧的解決方案,滿足不同客戶的需求。

首先,中關村科金在智慧客服、智慧外呼、音視訊等產品服務領域擁有超過10年的深厚積累,服務了1600多家企業客戶,其中金融客戶數量超過500家。這些豐富的客戶服務經驗為中關村科金提供了寶貴的行業認知、產品交付和服務經驗,使我們能夠深刻理解不同行業的需求和挑戰。

其次,中關村科金得助智慧客服產品恰好處於大模型技術非常適合的套用場景——人機對話。大模型技術的引入,極大地提升了中關村科金產品的智慧化水平,使得對話更加自然流暢,問題解決更加精準高效。早在2023年甚至更早的時候,中關村科金就開始關註並研究大模型技術,特別是在智慧語音互動方面的套用。透過長期的研發投入,公司不僅積累了大量的人才,還擁有100多份與大模型相關的專利,這使得中關村科金成為有能力接連推出電銷大模型、企業知識大模型、公安反詐大模型、醫保大模型等多款領域大模型的科技公司。

此外,公司還將大模型技術與自身的產品和服務深度融合。透過不斷的技術叠代和最佳化,將大模型的能力與全系產品緊密結合,為客戶提供更加智慧化、個人化的服務體驗。例如,中關村科金推出的電銷大模型,透過精選億級的績優話術,結合持續的反饋最佳化,顯著提升了外呼業務效率和客戶滿意度。

Q:結合具體的案例,談一談公司的大模型解決了實際工作中的哪些問題?

李智偉:

中關村科金的大模型技術在實際套用中解決了多項問題。以某金融機構行銷外呼場景套用電銷大模型的計畫為例,傳統的行銷外呼需要依賴大量的人工坐席,耗費巨大的人力資源。隨著智慧外呼技術的發展,許多金融機構開始嘗試用智慧機器人替代人工進行電話外呼和客戶回訪。然而,這些早期的智慧機器人大多基於小模型,它們在處理簡單詢問時表現尚可,但在進行持續性對話和復雜問題解答時能力有限,導致與客戶的溝通效果瓶頸明顯。

引入大模型技術後,情況有了明顯改觀。大模型在行銷外呼中展現出更高的智慧水平,特別是在問答準確率和多輪對話能力上。在實際套用中,相較於傳統的機器人外呼,大模型與客戶的溝通輪次提升了83%,平均通話時長增加了50%,顯著提升了客戶體驗。客戶更願意與能夠提供流暢對話和有效解決問題的大模型進行互動。該金融機構單日最大外呼量1200萬通,其中80%以上是由大模型完成的,剩余部份由人工坐席承擔。這不僅極大提升了工作效率,也最佳化了資源配置。

然而,我們也意識到智慧外呼並不能完全取代人工服務,特別是對於那些有更廣泛訴求的高凈值客戶,人工介入和個人化服務仍然是必需的。在這個過程中,大模型起到了智慧篩選的作用,辨識出需要深度服務的高凈值客戶,而這部份客戶的服務則由人工完成。這種人機協同的模式不僅提升了服務效率,也促進了人工坐席的專業能力提升。面對大模型的挑戰,人工坐席開始加強學習,提升服務品質,以防被智慧化替代,形成了一種技術與人工相互促進提升的良性迴圈。

盡管長尾和重復性的需求正逐漸被智慧化技術所替代,但我認為人工服務在未來仍將有其不可替代的價值。人的存在和個人化服務為商業交易增添了不可量化的價值,如果所有服務場景都被機器人取代,那種獨特的購物和交流體驗可能會消失。因此,人工智慧和人工服務的結合,將是未來發展的最佳路徑。

Q:那你是如何看待大模型不能替代掉人的什麽部份?

李智偉:

我認為在智慧決策方面難以取代人類。智慧決策是人類自主意識的核心,大模型若取代了這一部份,可能會影響人類的根本特質。

此外,盡管大模型在情感理解方面,精細化和擬人化處理能力有所進步,能夠模擬更加細膩的情感反應,但人類情感的深度和復雜性是機器難以完全捕捉的。因此,大模型技術在情感賽道上雖有潛力,但不能完全替代人類的同理心和情感共鳴。

Q:關於AI幻覺您是如何看待?大模型幻覺問題現在還是常見,大模型還是會出現答非所問的情況。中關村科金研發的大模型套用是服務企業客戶的,如何處理幻覺問題?

李智偉:

大模型在不同套用場景中對幻覺的容忍度是有差異的。在金融服務領域,模型輸出的內容必須嚴格遵守監管規定,避免過度承諾或提供錯誤資訊。因此,中關村科金在大模型套用中設定了嚴格的」圍欄」,以確保其在規定的邊界內執行。

首先是知識增強訓練。在大模型的初始訓練階段,中關村科金透過知識增強訓練註入金融行業的正確知識體系,確保模型從一開始就建立在正確的行業知識基礎之上。

其次是引入防幻覺技術。在訓練過程中引入防幻覺技術,明確告知模型哪些內容是禁忌的,哪些是違反規定的,從而將規則性知識嵌入模型中。

最後是建立敏感詞庫。我們的團隊對行業性知識體系進行梳理,建立敏感詞庫,對經常出現的幻覺錯誤和違規問題進行外掛式遮蔽。一旦模型生成的內容觸發了敏感詞庫,相關內容就會被自動篩選掉,從而最大程度地減少幻覺現象的發生。

Q:涉及到交付,大模型和企業客戶之間還是需要磨合的,您是如何看待服務企業客戶大模型的最後一公裏?

李智偉:

「最後一公裏」是軟體行業始終熱議的問題,這本質上是一個服務問題。尤其是對於To B產品來說,很難有一個放之四海皆準的標準流程。

其實,從小模型時代就有「最後一公裏」的問題。模型產品總有一個 冷啟動 到正式執行的過程,相當於是熱車的過程。在小模型時代拿到一個模型做推薦系統,到客戶環境也是要跟客戶的數據和埋點系統打通,結合客戶數據要不停調優,才能夠正常被使用。這段時間在小模型時代叫模型冷啟動。

進入大模型時代,大模型跟企業客戶業務系統要整合,數據流對接,客戶環境數據樣本校準、調優,安全保護,統一認證等方面都需要細致的磨合。因此,類似冷啟動的過程仍然存在。在C端或非常通用的場景中,由於數據集在市場上或者網路間很容易獲得的,可能不存在「最後一公裏」的問題。但是B端,尤其在國內市場,行業數據相對封閉,有些甚至是保密的,這就要求大模型必須結合客戶的實際環境進行深度最佳化。

根據中關村科金的實踐經驗,向企業客戶交付一個有價值的產品,必須將「最後一公裏」的服務視為至關重要的環節。這不僅涉及到產品的交付,還包括提供一定的服務能力,確保客戶能夠順利安裝、執行並使用產品,甚至需要在產品執行初期提供持續的支持和試執行服務。為此,中關村科金不僅提供成熟的大模型工具鏈平台,幫助企業實作從訓練到上線到最佳化的全過程無程式碼、視覺化作業,降低實施難度和成本,還透過沈澱標桿案例、經驗積累、樣版化 SOP 流程和行業知識,為客戶提供端到端的交付服務。透過這種方式,中關村科金致力於幫助企業客戶充分利用大模型技術,實作業務的轉型和升級。

Q:隨著大模型推動人工智慧技術的快速發展,我們是否已經邁入了AI+時代,還是說我們仍然處於+AI的階段?

李智偉:

目前,盡管大模型技術為中關村科金的產品基礎架構帶來了顯著的升級和革新,我依然認為我們當然處在+AI的時代。大模型被視為一種技術性的增強,它為企業的服務提供了額外的智慧化優勢,但並非徹底改變服務方式和服務本質。

在To B領域,我們的客戶擁有非常成熟且豐富的IT資產。在向他們推薦新技術時,不能期望他們為了新技術而徹底更換現有的基礎設施,這樣做的成本和代價是巨大的。相反,科技公司應該更好地利用客戶原先積累的數據、數據治理成果以及IT系統的原子化能力。中關村科金的目標是將大模型的能力嵌入到客戶的IT核心中,與現有系統協同工作,共同發揮最大的價值。

AI+時代則代表著一個全新時代的躍遷,對企業而言,這意味著需要進行根本性的重構。這不僅是一項挑戰,也對現有資產的再利用提出了難題。當前,大模型的到來並不意味著所有企業都需要因此而重新開始,而是應該在現有基礎上,逐步融合和利用大模型技術,以實作平穩過渡和持續創新。

中關村科金正是基於這樣的理解,在推動大模型技術與企業現有IT系統的融合中,註重漸進式的改進和最佳化,而非徹底的重構。公司將幫助企業客戶在保持業務連續性的同時,充分利用大模型帶來的智慧化優勢,實作業務的持續增長和創新。