《科创板日报》8月11日讯(记者 黄心怡) 据媒体报道,百度、字节跳动、腾讯和阿里巴巴等互联网巨头正争相收购英伟达的高性能芯片,已订购了价值10亿美元的A800处理器,这些订单价值50亿美元,将于今年交付。此外,这些公司还采购了40亿美元的英伟达图形处理器(GPU),将于2024年交付。
对此,《科创板日报》记者询问百度、腾讯和阿里巴巴方面,均未有回应。
不过,阿里巴巴集团董事会主席兼CEO张勇在财报沟通会上坦言,GPU在中国市场供应确实紧缺。“新一代人工智能发展带来的模型训练和推理场景,对AI云服务的需求非常旺盛,但是由于短期内GPU在中国市场供应的紧缺,使得这样的需求只得到了部分满足,AI相关服务所带来的增量机会刚刚开始得到释放。”
有大模型创业公司高层向《科创板日报》透露,”相比5月份英伟达芯片上涨了百分之小几十,A100和H100都已经买不到了。”
一家算力服务平台的相关人员告诉《科创板日报》记者,当前算力资源较为紧缺,有几百家企业都在排队。
▍未来推理算力需求或远高于训练算力
随着AI大模型加速在实际场景落地,算力需求也随之激增。
以AI应用“妙鸭相机”为例,其上线不到一个月,算力需求暴涨数百倍。据相关负责人透露,“妙鸭相机”已在阿里云上进行紧急扩容,应对暴涨数百倍的算力需求