當前位置: 華文世界 > 科技

僅用19天,馬斯克建成全球最強「超算工廠」!10萬塊H100 GPU上線,Grok 3預計年底釋出

2024-07-24科技

只花了19天,「矽谷狂人 馬斯克就將「超級算力工廠」建成了!

當地時間7月22日,馬斯克在X平台上發文稱贊了xAI 、X、輝達,以及其他支持團隊的工作,並表示,在當地時間淩晨4:20,這些團隊合力打造的孟菲斯超級集群開始投入訓練。

圖片來源:X平台

該集群 由10萬塊液冷p00 芯片組成 ,是全球最強的超算集群。 在同日接受著名心理學教授喬丹·彼得森的專訪時,馬斯克透露, 從硬件安裝到投入訓練,總共只花了19天。

同時,他還在采訪中介紹,Grok 2的訓練已經完成,將於下個月釋出。目前,Grok 3正在孟菲斯的超算中心中進行訓練,預計年底將會釋出,屆時將是市面上最強大的模型。

不過在訪談中,馬斯克也坦言,自己對AI安全性的憂慮日益加劇。他認為,AI必須基於「親人類」的原則,但其他公司更想要創造的是比任何人類都聰明得多的數碼超級智能,而這並不是一個好事。

談xAI:「超算中心」僅用19天就投入訓練,Grok 3預計年底釋出

當下,xAI旗下的Grok正與谷歌Gemini及OpenAI的ChatGPT等產品展開激烈競爭。喬丹·彼得森在采訪一開始就投擲一個尖銳的問題,詢問馬斯克如何比較Grok和ChatGPT現在的表現。

馬斯克評價稱,目前搭載在X平台上的基礎Grok模型並不是很強,比ChatGPT要弱上一個量級。他表示:「X是一家相當新的公司,它才成立一年多一點,所以我們有很多工作要做,才能趕上那些已經成立了5年,10年或是20年的公司。」

他隨後補充道:「我們正在快速追趕,我認為xAI的改進速度比其他任何公司都快, 我們建造了一個大型訓練中心,從硬件安裝到投入訓練只花了19天。

【每日經濟新聞】記者註意到, 孟菲斯「超算工廠」擁有10萬塊液冷p00 GPU,在單個RDMA結構 (即遠端直接數據存取結構)上執行,是全球最大的超算集群 。按照成本估算 ,每塊p00的價格約為3萬~4萬美元。這也就意味著,馬斯克的「超算工廠」價值將達30億~40億美元(約合人民幣218億~290億元)。從算力上來看,OpenAl GPT-4的訓練用了25000塊A100 GPU,約為「超算工廠」的1/20。

當被問及xAI的下一代模型時,馬斯克稱, Grok 2最近完成了訓練,工程師正在修復漏洞,下個月就能正式釋出。

談及其效能,馬斯克透露道:「它(Grok2)應該與ChatGPT最新的模型(GPT-4)相當。我們正在孟菲斯數據中心訓練Grok 3,大概需要三四個月的時間來進行調整和修復錯誤。我們希望能在12月之前釋出Grok 3,到那時Grok 3應該是世界上最強大的AI。」

圖片來源: 喬丹·彼得森訪談截圖

談AI風險:AI必須基於「親人類」原則

在訪談中,馬斯克也坦言,自己對AI安全性的憂慮日益加劇。他認為, 所有的AI公司想要創造的是比任何人類都聰明得多的數碼超級智能,而這並不是一個好事。

馬斯克 看來, AI必須基於「親人類」的原則。 他告訴彼得森,在與谷歌的前行政總裁拉利·佩吉討論相關話題後,他越來越擔心AI的安全問題了。「他(佩吉)稱我為物種歧視者(speciesist)。我確實是個物種歧視者,我支持人類而不是機器。拉利的觀點則是,我們以後都會將我們的思想上傳到電腦上,每個人都會變成機器。」他說道。

馬斯克進一步表示:「不支持人類是一件瘋狂的事情。我的意思是,如果人類不加入人類陣營,那誰會加入呢?這是壓死駱駝的最後一根稻草。我想,我們真的需要一些新的AI公司,這樣才能與谷歌抗衡。」而這也是Grok的使命所在,和帶有「覺醒病毒」的ChatGPT和Gemini展開競爭。

實際上,正是有關AI安全的討論促使馬斯克和山姆·阿爾特曼於2015年共同創立了OpenAI。不過,2018年馬斯克和後者理念不和,離開OpenAI,最終創立了自己的AI聊天機器人Grok,並多次批評OpenAI背離初衷。

他認為,OpenAI應該是作為一個開源的非營利性的組織。OpenAI中的「Open」是指「開源」,而OpenAI現在真正想要實作的是利潤最大化,並非嘗試去解決一些真正的問題。

馬斯克透露,「 我仍在考慮提起法律訴訟,至少可以讓法庭向我解釋,我所資助的組織為何能實作截然相反的目標。

每日經濟新聞