當前位置: 華文世界 > 科技

商湯科技做生成式AI「貨真價實」?

2024-09-06科技

來源:深潛atom

本文系深潛atom第841篇原創作品

大模型和智算已成為引領數碼化轉型的新質生產力,提升各行業效率勢不可擋。8月27日,商湯釋出上半年財報。財報顯示,商湯科技總營收17.4億元,同比增長21%。整體毛利潤為近8億元,同比增長18%,毛利率為44%。

其中尤其值得關註的是, 商湯已經階段性完成了從傳統AI向生成式AI的轉型 。2024年上半年,商湯生成式AI業務收入大幅增長256%至近11億元,占總收入比重的60%。

現如今,國內大模型價格戰將市場競爭推向白熱化,大模型企業脫穎而出的關鍵, 一個是算力基礎,另外一個是大模型服務能力 。商湯生成式AI營收增長,核心在於其同時抓住了這兩點技術和服務優勢。

自2018年起,商湯科技就開始了對於大模型的研發;2021年推出AI基礎設施——商湯大裝置SenseCore。大裝置+大模型的深度協同,在技術叠代更快的同時,還能充分利用龐大的算力資源,來最佳化推理成本,實作推理彈性,更早地產生規模效應。

在市場層面,具備技術和服務優勢,又能夠以AI原生公司中立身份和開放合作的姿態,深入到智能硬件、新能源汽車、機器人、醫療、金融等行業細分賽道,讓商湯更容易獲得客戶認可,從而順利完成戰略轉型。

「大裝置+大模型」深度協同,解決套用端兩大基礎需求

短短半年時間,生成式AI的市場接受度,已經超過了傳統AI。伴隨著商湯科技生成式AI的大振幅提升,似乎也昭示著,我們已經一只腳邁入了通用人工智能(AGI)時代。

商湯董事長兼CEO徐立表示, 商湯科技全面向生成式AI轉型升級的戰略目標已階段性達成,生成式AI迎來黃金發展時期 ,商湯科技正處於下一波增長的有利位置。

在深潛atom看來,商湯能夠快速實作戰略轉型,背後的核心離不開 大模型和大裝置的深度協同 ,這使得商湯能夠快速叠代模型並降低推理成本。

大模型井噴的年代,幾乎所有公司都已經高度認可大模型的重要性。然而,總有一些公司是超前預判到這一市場的發展軌跡。商湯科技是最早布局生成式AI領域的公司之一,早在2018年起便致力於AI大模型的研發,並且是國內最早一批投入人工智能基礎設施的公司之一。

2024年4月,商湯推出「日日新5.0」大模型,並在7月升級為「日日新5.5」。能夠在短短半年時間,完成兩次大模型的叠代, 對商湯科技的技術實力評估,並不能單純被放到套用層。更為重要的是,商湯科技構建的AI基礎設施大裝置 ,其平台規模和算力資源為生成式AI(包括大模型研究及產品開發)的進一步發展打下基礎。

算力基礎設施的完善為技術突破提供重要支撐,透過SenseCore大裝置與生成式AI演算法的協同,模型效能和效率不斷提升, 智算服務的規模化效應已經逐步顯露

在智算服務方面,商湯大裝置營運總算力規模已突破20,000P,上線GPU數量達到5.4萬張,穩居行業領先地位。具備從千卡集群到萬卡集群的設計、建設、和靈活排程營運的成熟能力,能夠支持高達2萬億參數的MoE多模態模型的穩定高效訓練和推理。在推理場景中,以創新的技術架構實作了相同算力及電力成本下的每秒請求數(QPS)提升4倍,並實作了推理服務彈性按需伸縮,最佳化了大規模AI推理的整體成本。此外,基於原創的訓推一體、算電協同等技術創新,持續提高萬卡集群的GPU資源利用率至最高80%以上,提升AIDC的整體營運回報率。

在足夠的算力基礎上,大模型可以更快速地完成更新叠代 。這也是日日新大模型,能夠支持多達10T Tokens的中英文訓練數據,推理合成數據高達數千億Token的數據規模下,還能夠保持叠代能力,讓「日日新5.5」能力對標GPT-4o的原因。

商湯基於「日日新5.5」生成不同規模的模型,以提供全面的企業級生成式AI解決方案,覆蓋雲端、本地數據中心和終端器材,從而持續賦能各行各業。而大模型和智算成為新質生產力,商湯把握這波機遇,也幫助客戶贏得生成式AI時代的收入增長機會。除互聯網行業外,智能硬件、新能源汽車、機器人、醫療、金融等行業也積極采用生成式AI技術,形成多個巨大的垂直市場,機遇隨之井噴。

大模型進入套用下半場,跨賽道輻射3000+客戶

根據IDC近期釋出的市場份額報告,商湯的大模型平台及套用以16%市場份額排名行業第二,智算服務以15.4%市場份額躋身行業前三。

商湯生成式AI已深入各行各業,為超過3000家行業頭部企業提供大模型及AIDC服務 。其中AIDC服務客戶包括京東、小米、金山辦公等互聯網公司、三大營運商、以吉利為代表的車企、以清華為代表的高校、頭部大模型創業公司等。

智能汽車也成為了大模型套用賦能的重要領域。2024年上半年, 商湯絕影智能汽車新增交付70.5萬輛 ,同比增長80.0%,累計交付車輛數達到260萬輛、覆蓋104個車型,與奧迪、大眾、本田、寶馬、小米、上汽智己、吉利等10余家海內外車廠建立車艙大模型的合作。從營收上看,絕影智能汽車業務帶來了1.68億元收入,同比增長100.4%。

2024年4月23日,伴隨「日日新 5.0」體系上線,帶來了 首個面向金融行業的多模態全棧式大模型 ,結合海通證券的真實套用場景,構建了符合金融行業的完整思維鏈,重點落地智能問答、智能研發、智能研報等業務環節,標誌著大模型技術在金融行業套用實作了重要突破。

生成式AI的出現,讓智慧醫療大跨步邁入3.0時代 。2024年上半年,商湯醫療智能排程覆蓋醫學文本、放射影像、病理影像等多種數據模態的專用模型,輔助醫生完成跨科室、跨模態的復雜診斷推理的大語言模型「大醫」,已經在上海交通大學醫學院附屬瑞金醫院、四川大學華西醫院、上海交通大學醫學院附屬新華醫院、空軍軍醫大學西京醫院、中國科學技術大學附屬第一醫院、清華大學附屬北京清華長庚醫院等醫院建立智慧醫院建設示範樣板。

此外,基於語言大模型打造的 AI Native 生產力系列工具,商湯推出了 小浣熊家族 ,現已擁有程式碼小浣熊和辦公小浣熊兩位產品成員,覆蓋軟件開發、數據分析、編程教育諸多場景,成為國內增長最快的Copilot產品之一。在中國信通院「可信AI程式碼大模型評估」中,程式碼小浣熊大模型榮獲4+級最高評級。上線以來,程式碼小浣熊累計為10萬+個人使用者提供服務,並且被200+企業客戶使用。中國電信、金山辦公等大型企業使用者,以及數十萬個人使用者和開發者已經成為了「小浣熊」的使用者。

在數碼人領域,商湯基於「商量」語言大模型和「如影」數碼人影片生成技術, 與上海銀行聯合打造了AI數碼員工「海小智」和「海小慧」 ,均完成了2000條問答數據和10萬條語料數據的知識庫訓練,具備專業豐富的金融知識問答能力,且精通全行4000多款金融產品所有細節。現如今,兩個數碼人員工已經在上海銀行手機銀行APP、e事通APP、元宇宙銀行等多種渠道上線,讓老年客戶輕松辦理手機銀行業務。

總而言之, 「大裝置+大模型」深度協同的戰略模式,讓商湯科技在原生多模態、影片流自然互動、以及低成本模型推理架構上構建獨特的優勢,從而在激烈的市場競爭中脫穎而出 。但這並不意味著這可以在短時間內成為現實。

【中國人工智能軟件市場份額,2023:大模型帶來新生機】顯示,商湯連續八年蟬聯第一。可見,商湯在AI1.0時代積累了足夠多的客戶。 新的戰略下,商湯憑借AI1.0時代積累的大量優質客戶和口碑,可以迅速轉化為生成式AI時代的新動力

正因如此,商湯科技生成式AI才能夠迎來多元化落地。生成式AI實作營收10.5億元,以及日日新整體呼叫量實作400%的增長,客戶數和客戶平均呼叫規模均大幅增長。

在技術、服務和市場的多重加持下,商湯科技的套用使用者增長和使用者活躍度增加是可預見的現實。與此同時,使用者的表現也將帶動商湯大模型和算力的使用量、呼叫量的增加。雙贏的合作中,行業也將迎來正向發展,AGI時代也將加速而來。