当前位置: 华文世界 > 科技

算力租赁卷成「白菜价」?英伟达A800线上租赁低至2元/时,月成本仅需千余元「附算力行业发展现状分析」

2024-04-03科技

图片来源:摄图网

当前,算力行业「火爆」。随着人工智能、大数据等领域对算力有着巨大需求,带动了云计算和数据中心的发展。同时算力行业推动芯片和服务器等相关产业链的快速发展,成为了新的经济增长点。【科创板日报】消息,近日,热门算力卡英伟达A800的租赁价格仅需2元/时,引发热议和关注,同时在经过去年服务器租赁价格暴涨后,今年不同规格产品价格出现一定幅度下降。

今日,在某社交平台用户发帖称,市场价格超10万元的英伟达A800人工智能训卡,在某平台租赁价格仅需2元/时。据悉,此次特惠活动是在SCNet国家超算互联网官网发出,一款服务器配备8个英伟达A800加速卡、显存为80GB,处理器为2个Intel 8458P 44C,其价格为2元/时。

按照一个月(30天)来算,每月2元/时租赁A800训练成本单卡仅需1440元,该价格仅为购买A800这款AI显卡价格的1/69,并且无需承担运营数据中心、电费等成本。而线下租赁一台8卡A800服务器月均价要4.6万元左右。

国家超算互联网客服表示,按照平台规则,单张A800卡租赁价格确实是2元/时,但单人可申请卡的最大数量和单作业运行时间有一定限制,不过已基本可以满足90%以上用户AI计算需求。租赁AI卡用户,超90%的都是对已成熟大模型进行‘微调’,13B参数量级别的大模型有一两张A800卡几天时间就可完成微调。如果用户需要长时间租赁大量AI算力进行「全参数微调」,平台也有充足国产AI卡支持并行计算需求,并会给到一个合适的价格。

从「英伟达A800算力卡线上租赁情况」回看算力行业发展情况:

——算力定义

2018年诺贝尔经济学奖获得者William D. Nordhaus在【计算过程】一文中提出:「算力是设备根据内部状态的改变,每秒可处理的信息数据量」。从狭义上看,算力是设备通过处理数据,实现特定结果输出的计算能力。从广义上看,算力是数字经济时代新生产力,是支撑数字经济发展的坚实基础。汽车大算力芯片是指单芯片算力大于100TOPS的汽车芯片。

——全球算力规模高速增长

全球算力规模保持高速稳定增长。在以万物感知、万物互联、万物智能为特征的数字经济时代背景下,全球数据总量和算力规模继续呈现高速增长态势。根据IC数据,2022年全球数据总产量81ZB。

根据中国信息通信研究院发布的【中国算力发展指数白皮书】,近年来全球算力规模保持高速稳定增长态势,2021年全球计算设备算力总规模达到615 EFlops,增速高达44%。2022年全球计算设备算力总规模达到906EFlops,增速达到47%。

——AI算力特征

AI算力与算力的关系在于,AI算力是指为实现人工智能任务而使用的计算能力,而算力是更广泛的概念,用于衡量计算机系统的总体处理能力。

AI算力强调使用专门为人工智能算法优化的硬件加速器,如GPU、TPU等。这些加速器的架构设计针对人工智能算法的计算模式进行了优化,能提供更高的计算性能。与通用计算任务相比,人工智能算法训练往往需要处理大量样本数据,单个训练任务的计算量常常以兆级甚至亿级计算规模计量。因此AI算力需要提供极高的计算强度。

——中国AI算力市场规模

随着一系列支持性政策的陆续出台、海量数据的增加、算法模型的复杂化以及应用场景的深入发展,中国AI算力规模正在持续扩大。AI大模型对算力的需求高于摩尔定律迭代速度,服务器需求量将提升。根据OpenAI测算,自2012年来,头部AI模型训练算力每3-4个月翻一番,训练算力增长幅度高达10倍。而摩尔定律放缓成为不争的事实,但数据量却在持续增加,算力增速已出现明显滞后,AI服务器作为AI算力载体,需求逐步释放。根据IDC数据,以半精度(FP16)测算中国的AI算力规模,2021年中国智能算力规模达155.2每秒百亿亿次浮点运算(EFLOPS),2022年智能算力规模达到268.0EFLOPS。

专家认为,算力租赁行业仍处于发展初期。未来,随着大模型的逐步落地,应用场景会越来越广阔。据统计,2022年全球计算设备算力总规模达到906EFlops,增速达到47%。到2025年全球计算设备算力总规模将超过3ZFlops。

新华基金权益投资部基金经理邓岳认为,算力租赁是一种灵活、高效、成本低廉的计算服务,未来行业发展空间广阔。其在短期内可较好应对当前国内算力资源稀缺的问题,但长远来看,若要避免资源过剩与同质化服务带来的激烈市场竞争,算力租赁产业相关从业者或需更多将精力聚焦于算力调度为代表的运营服务、以及AI运营工具与整体解决方案上。

前瞻经济学人APP资讯组

更多本行业研究分析详见前瞻产业研究院【中国算力行业发展趋势与投资决策支持研究报告】。
同时前瞻产业研究院还提供产业大数据、产业研究报告、产业规划、园区规划、产业招商、产业图谱、智慧招商系统、行业地位证明、IPO咨询/募投可研、IPO工作底稿咨询等解决方案。在招股说明书、公司年度报告等任何公开信息披露中引用本篇文章内容,需要获取前瞻产业研究院的正规授权。
更多深度行业分析尽在【前瞻经济学人APP】,还可以与500+经济学家/资深行业研究员交流互动。更多企业数据、企业资讯、企业发展情况尽在【企查猫APP】,性价比最高功能最全的企业查询平台。