• 最近访问:
发表于 2026-03-09 15:10:30 股吧网页版
深圳KernelCAT破局“天下苦CUDA久矣”
来源:科技日报

  在人工智能浪潮席卷全球的当下,算力已成为核心驱动力。然而,一个长期存在的困境是:先进的AI模型与算法,往往被束缚在特定的硬件生态之上,其中尤以英伟达的CUDA生态为甚。“天下苦CUDA久矣”,不仅是开发者面对跨平台迁移时高昂成本与复杂性的慨叹,更是中国AI产业在追求算力自主道路上必须直面的现实壁垒。

  在深圳,一款名为KernelCAT的AI智能体工具进入业界视野,希望以人工智能本身的力量,来破解这一生态难题。近日,科技日报记者专访深圳市大数据研究院及其孵化的智子芯元(深圳)科技有限公司(以下简称“智子芯元”),探寻这把“破局之剑”背后的逻辑与潜力。

  算子开发“三高”难题有了新解法

  KernelCAT由智子芯元研发,其核心定位为高度智能化的“计算加速专家”。作为基于大模型构建、具备深度领域知识的智能体框架,其并非传统的编程工具或简单的代码生成器。

  “我们的目标是让它成为随时可指挥、可协作、可信赖的专家,从人类手中接管底层工程的复杂性。”深圳市大数据研究院研究科学家、智子芯元联合创始人丁添介绍,开发者无需精通艰深的硬件架构与底层优化技术,只需通过自然语言描述需求,KernelCAT便能自主完成从理解、分析到编码、验证的全流程。

  具体而言,KernelCAT瞄准AI落地中最耗时耗力的底层工程环节,核心功能覆盖三大场景。其中,算子开发是为模型创造新的计算单元,在模型迁移适配中能让模型在新硬件上快速跑起来、性能调优则支撑模型跑得更快。传统需要数天甚至数周的手工工作,可被压缩至小时乃至分钟级别。

  “大模型由无数运算组成,算子(Kernel)是最基础的数学运算单元,算子的效率直接决定大模型推理/训练速度。”深圳市大数据研究院副院长张昕介绍,DeepSeek系在英伟达系统上训练,要搬到华为昇腾平台,算子就起了“翻译官”的作用。

  然而,算子开发长期面临“三高”挑战:门槛高,需融合算法、硬件、编译等多领域知识;成本高,新硬件、新模型意味着推倒重来;周期长,手工开发动辄数周,追赶不上技术迭代速度。

  这正是CUDA生态难以撼动的根源。英伟达用十五年构建了包含完善工具链、丰富算子库和庞大开发者社区的体系,形成了强大的生态锁定效应。

  KernelCAT的破题思路,在于将“专家经验”转化为“AI可复用的智能”。它并非让大模型盲目试错,而是创新性地结合了“大模型的智能”与“运筹优化算法”。

  丁添以优化华为昇腾芯片上的FlashAttentionScore算子为例介绍,KernelCAT首先理解算子的计算逻辑与硬件约束,将调优问题自动转化为一个运筹学数学模型;随后,运筹优化算法在庞大的参数空间中系统、高效地搜索最优解。最终,在无须人工干预的情况下,实现延迟降低最高22%、吞吐量提升近30%的效果。

  “这标志着算子调优从传统的经验驱动,走向了算法驱动。”丁添说。

  以AI之智破CUDA之壁

  理论需要实践检验。在此前DeepSeek-OCR-2大模型迁移至华为昇腾平台的案例中,KernelCAT自动解决了复杂的版本依赖与环境配置难题,并精准识别出模型对CUDA专属算子的依赖,自动替换为昇腾原生实现,彻底剥离CUDA,并在完成迁移适配后,相比初始方案实现了35倍的推理加速。

  丁添认为,KernelCAT是生态迁移的加速器。它通过自然语言交互极大降低门槛,接管了跨平台适配的复杂度,使得向国产芯片的迁移不再是一项令人望而却步的巨型工程。

  近期,DeepSeek模型通过算法与算子优化取得突破,引发行业关注。“这也代表着算力优势并非绝对,算法与软件优化能够对冲硬件堆砌,甚至突破生态壁垒。”丁添说。

  时下,算力主权已成为国家安全的重要维度。硬件层面管制的背后,软件与生态自主的紧迫性更加凸显。

  “技术自主可控可快速补全国产芯片的软件能力,打破‘有芯片无生态’困局。”丁添表示,筑牢产业安全底线可确保关键领域模型迁移与优化不受制于人、掌握生态竞争主动权则能通过智能工具降低生态建设门槛,加速形成软硬协同的国产AI生态正循环。

  尽管潜力巨大,但丁添认为,KernelCAT未来面临模型快速迭代的跟进压力、企业级用户对AI生成代码的信任建立,以及商业化路径探索等挑战。更重要的是,算子优化的天花板终究受限于硬件本身的能力,需要与芯片厂商深度协同。

  “KernelCAT是破局的利器,但一棵树撑不起一片森林。”丁添表示,“建设一个成熟的、可与CUDA抗衡的国产AI生态,是系统工程。需要硬件持续迭代,开源社区繁荣,人才培养体系完善,政策与资本支持多方形成合力。”

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500