當前位置: 華文世界 > 科技

把大模型「裝」進小盒子,雲天勵飛在想什麽?

2024-04-01科技

3 月 28 日,雲天勵飛舉辦 AI 大模型產品釋出會,釋出「深目」AI 模盒,同時宣布自研大模型「雲天天書-2.0-68B」版本免費向合作夥伴開放。

雲天勵飛董事長兼 CEO 陳寧在釋出會提到:「未來 3 年,全球 80% 的企業都將使用大模型。大模型一次訓練成本在千萬級,主流的訓推一體機價格普遍在百萬元,絕大多數企業都無法承擔這樣高昂的成本。」 雲天勵飛此次釋出的 「深目」AI 模盒,屬於邊緣計算裝置,側重在推理端,搭載了雲天勵飛的自研大模型邊緣訓推芯片 DeepEdge10 Max,以及自研多模態大模型「雲天天書」,具備演算法邊緣側線上學習能力。

這種邊緣端標準化硬體,再加上大模型,除了透過能夠邊緣端部署,解決數據私密問題,還可以實作對多種長尾場景的覆蓋。其搭載的 DeepEdge10 芯片可以針對不同的場景提供差異化算力,並且可以線上下載更新多種演算法。

在雲天勵飛為客戶提供的演算法訓練平台上,有大量與生態合作夥伴共同打造的演算法商城,使用者可以直接呼叫預訓練演算法,並上傳自身場景圖片完成演算法的微調和升級,快速訓練出高精度演算法。針對無訓練數據的極端場景,例如加油站場景的吸煙辨識,雲天勵飛還使用了 AI 合成數據來訓練演算法,並在這一過程中引入了 3D 引擎,從而填補數據空白。

「推理芯片沒有壟斷性巨頭」

AI 芯片可以分為訓練芯片和推理芯片。訓練芯片多用於伺服器,推理芯片則主要部署在邊端裝置之上。當大模型訓練完成,開始進入到了實際套用之後,對於 AI 推理的需求將會更多。雲天立飛的 AI 芯片就定位在推理的套用。DeepEdge10 系列是雲天勵飛去年推出的大模型推理芯片,該芯片采用自主可控的國產工藝,內含國產 RISC-V 核,支持大模型訓練推理部署。依托自研芯片 DeepEdge10 Max創新的 D2D chiplet 架構打造的 X5000 推理卡,已適配並可承載 10 億級 SAM、百億級 Llama2 等大模型運算,可套用於 AIoT 邊緣視訊、移動機器人等場景。

談及推理芯片,陳寧表示,如果訓練芯片是輝達一騎絕塵,占有絕對的市場占有率,那麽推理芯片今天沒有壟斷性的巨頭,今年大火的 Groq 也是 AI 推理芯片。

「雲天天書」是雲天勵飛自研的多模態大模型,由 CV 大模型、NLP 大模型和多模態大模型組成。雲天勵誌在通用基礎大模型的基礎上,訓練出行業大模型,包括智慧城市、智慧安防、智慧交通、智慧商超等等,最後再針對落地細分的場景,將數據集進行微調,從而實作落地。

深圳 CV 獨角獸,「演算法芯片化」為核心競爭力

雲天勵飛成立於 2014 年,是一家以電腦視覺(CV)套用起家的公司,2022 年 4 月 4 日,作為「深圳 AI 第一股」在科創板上市,主營業務為視覺 AI 軟硬體產品及解決方案。解決方案中又以面向公共安防及交通治理領域為主。公司為客戶提供演算法軟體、芯片等自研產品,並按照客戶需求,將自己的產品,外購的硬體產品、安裝施工服務等打包交付。

2023 財年,雲天勵飛營業收入 5.35 億元,同比下降 2.14%;歸母凈利潤虧損 3.9 億元,比上年同期的 -4.47 億元有所收窄。

值得一提的是雲天勵飛具備演算法芯片化能力,同時自研的 AI 芯片也已實作商用。公司的 AI 芯片在 2018 年成功流片,2019 年開始逐步對外銷售,客戶包括海康威視、阿裏巴巴平頭哥、富瀚微電子等。

並購智慧穿戴公司,G、B、C 全都要?

「深目」AI 模盒的釋出是雲天勵飛從 AI 方案化到 AI 產品化的一次嘗試,透過 AI 技術或解決方案轉化為標準化、通用化的產品或服務,從而滿足更廣泛的市場需求。

在大模型方向上,作為一家在機器視覺賽道方向積澱已久的的 AI 企業,雲天勵飛並沒有直接釋出面向 C 端使用者的 LLM 產品。畢竟大模型需要長期巨量燒錢,且商業化尚處於早期階段。而是選擇透過「深目」AI 模盒這樣的邊緣計算盒子,將大模型與自身 AI 產品落地相結合,尋求在 G 端和 B 端場景實作標準化和規模化。

在 To C 方向上,雲天勵飛也有所布局。近期,雲天勵飛釋出公告稱擬以不超過人民幣 1.8 億元的對價收購智慧穿戴方案設計公司岍丞技術。岍丞技術主要從事智慧穿戴產品的軟硬體開發與技術服務,屬於智慧耳機、智慧型手錶等智慧穿戴裝置的 IDH(系 Independent Design House 的縮寫,直譯為「獨立設計公司」)方案商。收購岍丞技術後,雲天勵飛擬開展智慧穿戴產品的軟硬體開發與技術服務業務,探索"大模型 + 智慧可穿戴"深度融合。

雲天勵飛董事長兼 CEO 陳寧曾表示,「過去 10 年,AI 行業基本走完了 To G 的基礎設施建設的歷程,在向 To B 的企業級服務轉變;預計 3 年左右的時間,人工智慧的行業會走向 ToC 的服務,尤其是隨著 ChatGPT 和多模態大模型的逐步成熟,行業最終會走向 To C 的服務。」 這似乎也表明了雲天勵飛未來的探索方向。另外值得註意的是,同為視覺 AI 起家的商湯科技也在今年釋出了面向 C 端消費者的 AI 台燈產品。

大模型技術加持下的 AI 行業競爭愈演愈烈,考驗著每一位參與者的底層技術能力、資金實力和戰略定力。並非所有玩家都能實作大而全的全面領先,聚焦自身的差異化優勢,實作市場的精準定位和有效突圍,或許才是破局之道。