21世纪经济报道记者倪雨晴贵阳报道
算力是智能世界的核心基础设施,大模型的兴起正不断推高对大算力的需求。今年的中国国际大数据产业博览会(以下简称“数博会”)上,算力成为关键词之一。
8月28日,在数博会开幕式上,华为常务董事、华为云计算CEO张平安表示,面对未来十年算力需求的数万倍增长, 华为云持续打造“算力黑土地”,围绕贵安、乌兰察布、和林格尔、芜湖核心枢纽,打造 “全国算力一张网”。
他还透露:“今天,华为云的整体算力规模相比去年同期增长率接近250%,使用昇腾AI云服务的客户从去年的321家增长到今年的1714家。”
在目前芯片工艺受限情况下,如何提升算力的性能和规模?张平安表示,华为可以发挥“大杂烩”的优势——综合在光通信、网络、供电等多方面的技术,以系统补单点,以空间换算力,以带宽换算力,以能源换算力,通过云上算力集群,获得规模优势和提升性能。
今年4月,华为云发布了CloudMatrix384超节点,将384颗昇腾NPU和192颗鲲鹏CPU,通过全新高速网络MatrixLink全对等互联,形成一台超级“AI服务器”,算力规模可以达到300 PFlops。对于万亿、十万亿参数的大模型训练任务,还可以通过横向扩展方式,将432个超节点连在一起,组成一个16万卡的AI集群。如果这个集群用于训练千亿参数大模型,可以同时支持1300个。
在AI算力竞赛中,这是华为的突围方式,通过体系化的创新进行追赶。张平安表示,华为云的Tokens服务在高吞吐场景下有性能优势,CloudMatrix384超节点能够做到50ms时延的场景下,吞吐2400TPS,实现业界新高。在数博会期间的828 B2B企业节上,华为云还宣布其Tokens服务全面接入CloudMatrix384超节点。
再从应用场景看,目前华为云算力服务已广泛应用于央国企、智能驾驶、大模型、互联网、消费电子和具身智能等行业。张平安介绍道,中国头部金融机构基于昇腾云服务,每天稳定支撑超过1000个智能体应用。
以汽车领域为例,此次华为云还发布了CloudVeo智能驾驶云服务,并宣布贵安汽车专区正式上线,与乌兰察布汽车专区形成跨区域的“双专区”布局。
整体来看,贵州是国内智算资源最集中的地区之一,目前华为云扎根贵州,布局了全球最大的数据中心。华为公司副总裁、中国云业务部部长陈林指出,华为云贵安数据中心致力于帮助贵州打造新的算力高地、数据高地、行业应用高地以及AI人才的培训基地。目前,CloudMatrix 384超节点在贵州部署已超过40套,多数头部车企已经在使用贵州的智算资源。
目前,华为云正加速在全国构建算力场,力争在大模型和智能化浪潮中抢占战略制高点。
值得注意的是,近日,华为云发布了组织架构调整方案,将对多个事业部进行整合重组,将进一步聚焦AI发展。华为云回应称,此次调整旨在通过软硬协同和架构创新,持续为客户打造更有价值的云服务,并将更多的资源投入到AI产业和算力产业上。