近期,APEC系列活动在深圳举行,人工智能算力基础设施建设成为企业交流的话题之一。面对大模型应用带来的新需求,如何兼顾推理性能、能效与部署成本,又如何让硬件跟上算法迭代?深圳市紫光同创电子股份有限公司(以下简称“紫光同创”)董事长兼总裁祝昌华受邀出席APEC工商领导人峰会,公司同期携可重构推理加速器,人工智能推理一体机等系统产品亮相科技展,希望紧扣国家战略,以FPGA可重构技术赋能人工智能推理,通过软硬件协同,为大模型推理和算力网建设提供更多元的算力选择。
从大模型研发到实际部署,用户需要解决的,不只是算力够不够用。企业本地化部署的门槛、持续运行的成本,以及业务数据的安全管理,都是技术落地需要跨越的环节。从国家战略层面看,“十五五”规划纲要提出深入推进东数西算工程,构建多层次算力设施体系和全国一体化算力网。算力网要把不同地区、不同类型的算力统筹调度起来,对算力的多元供给和灵活适配提出了更高要求。
围绕这些需求,紫光同创将可重构算力作为参与算力基础设施建设、布局AI(人工智能)推理市场的切入点。据介绍,相关产品基于公司具有自主知识产权的FPGA技术开发,重点兼顾低时延、高能效与灵活迭代能力。
可重构算力的“柔性”体现在哪里?紫光同创方面表示,关键在于硬件能够随计算任务和算法变化进行调整。FPGA即现场可编程门阵列,可重构是其重要特点。紫光同创希望利用这一能力,在满足推理需求的同时,为后续算法适配保留空间,减少硬件与应用迭代之间的脱节。
基于自研FPGA技术,紫光同创进一步开发了人工智能推理一体机及可重构推理加速器,将技术能力延伸至系统级产品,面向智算中心、企业私有化部署等不同场景提供产品。
对于用户而言,从选择芯片到用好算力,中间还涉及设备部署和系统适配。紫光同创希望通过软硬件协同,降低词元处理成本,并依托硬件可重构能力适配算法迭代,让底层技术更好地服务实际应用。
从芯片走向系统,体现了紫光同创发展定位的提升。多年来紫光同创持续保持研发投入,以FPGA芯片及配套EDA(电子设计自动化)工具为根基,逐步形成从芯片、工具到系统解决方案的可重构算力产品体系,从可编程芯片供应商向可重构算力提供者延伸。
展会期间,紫光同创与来自亚太各经济体的企业代表、技术专家围绕AI算力基础设施建设方案交流,探讨可重构算力在不同场景中的应用。紫光同创方面表示,将服务国家战略,围绕算力基础设施建设需求,持续推进可重构算力技术攻关和产品落地,为全国一体化算力网建设和“人工智能+”行动提供自主可控的算力支撑。