當前位置: 華文世界 > 科技

ISV「AI演化論」的統信模式

2024-08-28科技

來源:至頂網

生成式AI被認為是企業實作高速增長最關鍵的技術。原因在於,它不只是一項創新技術,更為業務層面帶來了革新。

自GPT-4釋出伊始,企業和個人使用者,都迅速地感受到由AIGC帶來的顛覆性力量。極簡的使用、以人為本的體驗、明顯的交付價值,推動生成式AI逐漸影響著企業套用,並激勵技術提供商在自身業務中開展生成式AI創新。

隨著數位化轉型的加速,企業急需具備快速適應市場變化的能力,生成式AI提供了這種可能性。在當前階段,企業對生成式AI解決方案的需求日益增長。

01趨勢:技術融合、創新驅動、商業倫理

作為ISV(獨立軟體開發商),統信軟體對於其客戶企業調研的結果顯示,企業對生成式AI解決方案的需求主要體現在以下幾個層面。

相容性需求上升。 企業希望AI解決方案能夠無縫地與現有IT基礎設施和軟體生態系整合,相容各類作業系統、資料庫、應用程式和雲平台,無需進行大規模的調整或重新配置。

可延伸性與靈活性 。企業重視生成式AI解決方案的可延伸性,故而解決方案需具備處理大規模數據的能力,並能隨需求增長動態擴充套件。同時,應適應不同套用場景,如文本生成、影像處理、自動編碼和客戶服務等。

數據私密與安全性。 企業要求生成式AI解決方案不僅要遵守數據私密法規(如GDPR等),還要能夠確保企業內部敏感數據的安全性,防止數據泄露或不當使用。

客製化需求 。面對不同的行業有不同的需求,生成式AI解決方案要提供靈活的API和工具,以便企業能夠根據自身需求進行客製化開發。

對開發者友好 。企業希望生成式AI解決方案能夠簡化開發流程,降低使用門檻,幫助其快速上手並高效地開發和部署AI套用。

不難看出,企業對生成式AI解決方案的需求趨勢可以視為技術融合與創新需求的具體體現,同時,這些需求背後是更深層次內涵,便是商業與倫理驅動力的交織——即生成式AI的套用創新必須在不犧牲使用者信任的前提下進行創新演進,這對技術供應商提出了更高的要求。

02 紐帶:作業系統 連結AI與使用者

「紐帶」是統信UOS在人工智慧產業鏈中對自身角色的定義。「在人工智慧產業鏈中,從基礎算力到最終套用,可以區分五個關鍵層級——算力基礎、作業系統、AI模型、中間層和套用。統信UOS在其中起到了承上啟下的作用。」統信軟體高級副總裁張磊強調,大模型的自我學習能力將賦予給OS,形成基於使用者的智慧體,站在作業系統的層面去觀察使用者,基於對軟硬體的調優與整合,更好地了解使用者、理解使用者、服務使用者。

統信軟體高級副總裁 張磊

其實,大模型時代初期統信軟體就看到了AI+OS帶來巨變的可能性,預判了智慧化趨勢,並伴隨大模型點燃市場的伊始,打造出相關解決方案。

統信UOS AI內嵌的作業系統地早在2023年9月便已落地。當時,統信UOS旗下的deepin作業系統已經成為中國第一個接入大模型的開源作業系統,這也標誌著統信UOS在AI領域的正式進軍。

緊隨其後的同年12月,deepin-IDE作為中國第一個自研、面向信創生態的整合式開發環境宣布接入UOS AI。來年1月,統信UOS專業版接入UOS AI,成為中國第一個接入大模型的商業發行作業系統版本。

在這一過程中,統信UOS不僅在產品開發上實作了重大突破,其在生態建設、開發者賦能等方面也表現出強大的創新能力。透過本地/線上模型,UOS AI向各套用提供AI能力支持,目前已有60余款套用接入UOS AI生態;透過與百度千帆、智譜、科大訊飛、360集團、昆侖萬維等大模型生態夥伴達成深度合作,現已覆蓋超過90%主流開源大模型與AI框架,為全球使用者提供更加精準、高效、智慧的AI服務。

同時,統信UOS依托【統信UOS開發者指南】、開發者分級支持體系、開發者支持計劃,打造AI時代最開放、中國最大的作業系統開發平台,致力於匯聚全球開源力量構建UOS「原生態」。張磊透露,截至目前,統信UOS原生套用已超過6000款。

張磊總結道:「統信軟體早就明確了‘作業系統+AI’的戰略地位,構建出全棧AI布局,包括AI內嵌的作業系統、AI導向的解決方案和AI原生的開發者生態,且每一個業務領域都有著有利競爭和突出的關鍵模組能力。」

相比大模型廠商、雲廠商、電信業者等,統信UOS等ISV(獨立軟體開發商)具有獨特的有利競爭,尤其在理解特定場景方面顯得尤為突出。張磊舉例稱,在B端業務中,生成式AI計畫需要與客戶業務緊密結合,透過逐步深入的打磨和最佳化,才能打通業務邏輯,實作更多套用場景的落地。而ISV則能憑借與客戶的良好合作關系和對客戶需求的深刻理解,具備在滿足客戶需求方面的先發優勢,能夠有效推動技術融合與賦能,形成持續的發展曲線。

03 創變:AI成為作業系統基礎服務

目前,統信軟體正在將AI能力變成作業系統的基礎服務之一,這意味著未來作業系統將不再僅僅是軟體執行的平台,而是整合了強大AI能力的智慧化平台。這種轉變將極大地擴充套件作業系統的套用場景和功能邊界。

「例如我們在AI PC方面的布局正是如此。」張磊強調,統信軟體基於UOS AI,在 系統資源排程、硬體策略、模型加速框架、使用者意圖 預測四個方面進行系統級最佳化,幫助客戶快速透過生成式AI落地的最後一公裏。

在系統資源排程上,統信UOS實施了系統級的資源執行保障。在模型啟動之前,載入程式將依據當前的硬體資源狀況動態判斷是否具備載入模型的條件,從而避免因資源不足而引起的系統卡頓或宕機。若使用者的硬體條件不達標,則系統不會執行模型載入,而是將資源保留給使用者使用。

在硬體策略方面,若使用者的硬體配置能夠更加迅速而高效地執行大型模型,統信UOS將在其模型載入框架中為使用者提供最優的執行策略。

針對模型加速框架,統信UOS除了提供針對使用者硬體的評估策略和選擇外,對於使用者所需執行的AI任務亦可透過該框架實作批次並列封裝,同時支持多套用智慧的同時並行處理,顯著提升智慧特性的整體執行效率。

面向使用者意圖預測層面,統信軟體UOS開發了意圖判斷功能,以確定使用者本次需執行的具體動作。透過縮減動作的範圍,系統能夠減少所需封裝的提示詞數量,從而降低模型的計算時間,最佳化AI的單次呼叫效率,並減少AI大模型的時間占用。「由於使用者需要呼叫的能力可能千變萬化,若每次都組裝全量的提示詞給AI模型,就會大量浪費詞元,並且模型的呼叫準確度也會大幅下降。」張磊如是說。

對於客戶客製化的需求,統信軟體在作業系統層、AI中間層、套用層,提供了全面的解決方案,深入整合和最佳化系統,確保不同層次的軟體元件能夠協同工作,實作高效的資源管理和任務執行。

在作業系統層,針對AI場景,統信UOS充分發揮Linux優勢,適配各大AI算力芯片,銜接AI模型和算力平台;同時提供IDE,助力AI相關套用開發;

在AI中間層,統信UOS發揮作業系統站位優勢,提供本地和線上模型對接和管理服務、系統AI介面、AI開發環境等,讓開發者可以快速、低成本搭建AI套用。

針對套用層,統信UOS將AI技術套用到系統套用、商業產品中,並圍繞客戶場景進行產品組合,形成解決方案,為客戶提供AI一攬子解決方案,同時為生態夥伴的AI產品化提供參考。

寫在最後

未來,獨立軟體供應商(ISV)在生成式AI的商業化套用上仍擁有廣闊的市場潛力。隨著技術的持續進步和企業對智慧化需求的增加,ISV可以開發和提供更加專業化和個人化的解決方案,幫助企業實作自動化和效率最佳化。

「統信軟體深耕作業系統與基礎軟體二十年,已為開啟面向AI的全新十年做好充分準備,引發基礎軟體產業的代際變革,以‘作業系統+AI’領跑新時代。」張磊如是說。