當前位置: 華文世界 > 科技

三年後AI大模型訓練成本或達1000億美元

2024-07-14科技

三年後AI大模型訓練成本或達1000億美元

據【湯姆的硬件】報道, Anthropic首席執行長達裏奧-阿莫代最近在播客【In Good Company】上說,未來三年內,人工智能模型的訓練費用可能會高達1000億美元,而大人工智能模型的參數還會繼續增加。

阿莫迪表示,像 OpenAI的GPT-4這樣的人工智能型號,訓練成本僅為1億美元。盡管現在還在研發中的大型模型需要10億美元的訓練費用,但是在接下來的三年裏,這些模型的訓練成本有望達到100億甚至1000億美元。

人工智能芯片是訓練大規模人工智能模型所需的最大開銷。到了2023年,有傳聞稱需要超過30000台輝達 AI圖形處理器來驅動 Chat GPT,而 OpenAI首席執行長山姆-柯曼已經確認, ChatGPT-4的培訓費用將高達1億美元。

除開放 AI外,還有許多技術巨頭,如谷歌, Meta, IBM,特斯拉,阿裏巴巴,百度,騰訊,字節跳動,等等,都在發展他們自己的大型人工智能模式。因此,對高效能人工智能芯片的需求也越來越大。據 TechInsights稱,2023年全球 GPU總出貨量為385萬台,其中輝達售出376萬台。而輝達推出的p00加速卡售價在25,000美元以上。而輝達公司的下一代 AIB200圖形處理器則至少要花費30,000到40,000美元。

如果硬件架構的效能也要再提升十倍,以一年十倍的能力來計算,即使人工智能芯片的數量不一定要翻十倍(新一代人工智能芯片的效能每年都在增長),但是,由於高端處理器芯片的價格不斷上升,因此,基本硬件架構的成本可能會翻上十倍。所以,在未來三年裏,訓練更大更強的人工智能模型的花費可能會高達1000億美元。

阿莫德伊預計,隨著演算法與芯片技術的持續改進,到2027年,人工智能模型有望超越大部份人,達到「人工通用智能」(AGI)。

當然,這樣做可能要花費1000億美元來進行培訓,而且只有很少幾家廠商有能力承擔這麽大的資金投入。但是,即便有這麽多的資本投入,從短期來看,收益可能是十分有限的。

紅杉資本(Sequoia Capital)分析師大衛-卡恩(David Cahn)稱,目前, OpenAI是人工智能大模型的主要供應商,其收入正迅速增長,預計2024年營收將增至34億美元,而2023年末,該公司的營收將達到16億美元,遠超其他尚未達到1億美元營收的供應商。相對於大型人工智能模型的訓練費用來說,這還只是一小部份。

戴維-卡恩表示,該行業不能期望人工智能投資能夠迅速獲得回報,但是必須承認目前的投資專案具有投機性,並且要不斷創新,不斷創造價值。否則,幾千億美元的泡沫將破裂,並有可能引發全球性的經濟危機.

出版者:核心智能感知-漫遊者之劍