当前位置: 华文世界 > 科技

三年后AI大模型训练成本或达1000亿美元

2024-07-14科技

三年后AI大模型训练成本或达1000亿美元

据【汤姆的硬件】报道, Anthropic首席执行长达里奥-阿莫代最近在播客【In Good Company】上说,未来三年内,人工智能模型的训练费用可能会高达1000亿美元,而大人工智能模型的参数还会继续增加。

阿莫迪表示,像 OpenAI的GPT-4这样的人工智能型号,训练成本仅为1亿美元。尽管现在还在研发中的大型模型需要10亿美元的训练费用,但是在接下来的三年里,这些模型的训练成本有望达到100亿甚至1000亿美元。

人工智能芯片是训练大规模人工智能模型所需的最大开销。到了2023年,有传闻称需要超过30000台英伟达 AI图形处理器来驱动 Chat GPT,而 OpenAI首席执行长山姆-奥特曼已经确认, ChatGPT-4的培训费用将高达1亿美元。

除开放 AI外,还有许多技术巨头,如谷歌, Meta, IBM,特斯拉,阿里巴巴,百度,腾讯,字节跳动,等等,都在发展他们自己的大型人工智能模式。因此,对高性能人工智能芯片的需求也越来越大。据 TechInsights称,2023年全球 GPU总出货量为385万台,其中英伟达售出376万台。而英伟达推出的p00加速卡售价在25,000美元以上。而英伟达公司的下一代 AIB200图形处理器则至少要花费30,000到40,000美元。

如果硬件架构的性能也要再提升十倍,以一年十倍的能力来计算,即使人工智能芯片的数量不一定要翻十倍(新一代人工智能芯片的性能每年都在增长),但是,由于高端处理器芯片的价格不断上升,因此,基本硬件架构的成本可能会翻上十倍。所以,在未来三年里,训练更大更强的人工智能模型的花费可能会高达1000亿美元。

阿莫德伊预计,随着算法与芯片技术的持续改进,到2027年,人工智能模型有望超越大部分人,达到「人工通用智能」(AGI)。

当然,这样做可能要花费1000亿美元来进行培训,而且只有很少几家厂商有能力承担这么大的资金投入。但是,即便有这么多的资本投入,从短期来看,收益可能是十分有限的。

红杉资本(Sequoia Capital)分析师大卫-卡恩(David Cahn)称,目前, OpenAI是人工智能大模型的主要供应商,其收入正迅速增长,预计2024年营收将增至34亿美元,而2023年末,该公司的营收将达到16亿美元,远超其他尚未达到1亿美元营收的供应商。相对于大型人工智能模型的训练费用来说,这还只是一小部分。

戴维-卡恩表示,该行业不能期望人工智能投资能够迅速获得回报,但是必须承认目前的投资项目具有投机性,并且要不断创新,不断创造价值。否则,几千亿美元的泡沫将破裂,并有可能引发全球性的经济危机.

出版者:核心智能感知-漫游者之剑