當前位置: 華文世界 > 科技

聚數乘雲,天翼雲以領先智算生產力賦能AI產業繁榮

2024-08-31科技

8月28日,2024中國國際大數據產業博覽會在貴州貴陽舉行。會議期間,中國電信舉辦了以「聚數乘雲 天翼賦能數位經濟新生態」為主題的天翼雲中國行·貴州站「數據賦能」交流活動。貴州省副省長蔡朝林、國家數據局副局長夏冰、中國電信集團有限公司副總經理唐珂出席活動。貴州省大數據發展管理局、貴州省通訊管理局、貴州省工業和資訊化廳、貴陽市人民政府、中國資訊通訊研究院雲端運算與大數據研究所等企事業單位代表 蒞臨 現場 會上 ,中國電信全國先發上線 「魔樂(Modelers)開發者社群」

Modelers開發者社群上線 先發儀式

當前,人工智慧已進入加快推進套用落地的關鍵階段。為進一步驅動國內人工智慧產業發展,加快技術創新和商業 落地 中國電信 聯合夥伴釋出魔樂( Modelers)開發者社群。作為開發者交流、學習和創新的平台,魔樂(Modelers)開發者社群整合了模型庫、數據集和體驗空間、開發工具鏈等核心元件,覆蓋自然語言處理、視覺、音訊等多個領域,可提供原生模型、易用開發工具、豐富 生態資源,幫助開發者獲取領先的人工智慧技術,打造出更有競爭力和差異化的模型及套用。天翼雲透過建設社群,構建中文環境下的算力、數據、模型、套用和新 CDMA服務,希望吸引全國開發者,共同繁榮國產AI生態。

會上,天翼雲科技有限公司副總經理弓劍煒以 「雲智一體 國雲助力數位經濟高品質發展」為題發表演講。弓劍煒表示,天翼雲構建領先的「息壤」一體化智算服務體系和能力,全方位開放生態合作,為廣大客戶提供「供得上、用得起、用得好」的算力服務。「息壤」突破了多項關鍵技術,擁有強大的算網排程能力、高效的異構計算能力、一站式的訓推服務能力,積累了豐富的落地套用案例。

天翼雲科技有限公司副總經理 弓劍煒

算網排程能力方面 「息壤」在三個方面取得顯著技術突破。透過算力外掛程式和算力閘道器,實作了算力的統一、高效和雲化接入;透過算數協同和多級算力互聯排程,實作了算數網的一體化排程,數隨算走,算隨數動,排程區域更廣,算力更泛在;借助大模型認知能力和業務排程,實作算力選擇和套用部署簡單化,故障自動恢復與負載均衡,使算力簡便易用。

基於上述技術突破和產品化套用, 「息壤」可服務於三大算力場景。一是天翼雲自營公共算力服務平台,目前已接入39家算力夥伴,實作三方各類算力可排程22EFLOPS,顯著擴大算力規模和品類,滿足公有雲客戶的多元算力需求。二是幫助客戶構建行業算力互聯網,例如高校算力聯盟等,實作行業內算力利用率的有效提升。三是幫助地方政府構建城市算力互聯網,實作區域內多方算力的一體化統籌排程,助力地方經濟和產業發展,目前已在貴州等多個區域成功實施。

異構計算能力方面 「息壤」具備高效的異構計算能力,能夠破解大模型訓練推理中面臨的大算力、高效能、高穩定需求等挑戰。在大算力需求方面,天翼雲建設PB級並列檔儲存,並組建低 延時 超大規模 RDMA網路,透過計算、記憶體和通訊的多維最佳化,提升綜合算效。在效能方面,對AI框架進行升級、儲存加速,實作checkpoint檔快速保存、載入,將國產算力的綜合算效提升到了行業可比水平。在穩定性方面,透過多項指標的監控分析,實作故障訓前發現,有效控制大模型訓練中斷恢復時長,實作訓練任務長期穩定、高可用執行。此外,天翼雲基於國產萬卡智算集群和自研智算平台,已具備支撐萬億參數基礎大模型訓練的能力。

訓推服務能力方面 「息壤」一站式的訓推服務能力,可降低大模型套用創新開發門檻。平台偏好設定行業數據集、納管國內外主流AI加速硬體、偏好設定基於國產算力的多個基礎大模型等全棧工具鏈能力,將大模型精調場景簡化操作至選數據、選硬體和選模型三個步驟,簡化部署、提升效率;透過自研AI框架、3D並列加速、自研訓練加速庫、容器排程最佳化等核心技術,大幅提升訓練效率;透過模型量化壓縮、自研推理加速算子庫、自研AI推理加速框架等核心技術,顯著提高推理效率;透過全鏈路故障檢測、定位、告警,全鏈路日誌監控與視覺化、斷點續訓快速恢復等核心技術,實作訓推過程全鏈路監控。

人工智慧產業的發展和繁榮離不開生態沃土的 「滋養」。此次會議先發上線魔樂(Modelers)開發者社群。透過社群建設,天翼雲將協同夥伴聚集更多的優質中文AI資源,加速AI套用商業落地。天翼雲還開放AI雲電腦平台,打造AI套用中心,具備AI助手、AI空間、AI 客服 AI低程式碼等AI創新套用,使AI套用能夠更廣泛地接入和使用,同時推出算數融合套餐,為使用者提供更加靈活和高效的服務,全力構建開放的模型、數據、套用生態,共鑄AI產業繁榮。

中國信通院雲端運算與大數據研究所所長何寶宏在會上介紹了雲端運算和大數據賦能產業發展現狀及趨勢。他表示,隨著 AI原生帶來的雲技術革新和大模型規模化落地,雲端運算技術與產業融合價值愈加凸顯,各行業上雲積極性持續攀升,雲端運算市場將迎來新一輪增長,AI加速產業格局重新洗牌。展望未來,作為數位社會底座,雲端運算的價值將被繼續挖掘,中國也將從「數據大國」邁向「數據強國」。

人工智慧已經成為數位經濟發展的新引擎。作為雲端運算原創技術策源地、數位中國建設主力軍,天翼雲將不斷深耕雲端運算領域核心技術,依托豐富的智算資源、強大的智算一體化平台能力、開放的模型套用生態和豐富的實踐案例,攜手廣大客戶與合作夥伴共同賦能千行百業數智化轉型,持續為數位經濟發展和數位中國建設註入澎湃動能。