• 最近访问:
发表于 2026-10-20 21:37:50 股吧网页版
DeepSeek宣布全面开源内部推理框架:期待全球AI更加公平、透明、可信赖
来源:澎湃新闻

  “为善与众行之,为巧与众能之。”

  10月20日,国产大模型龙头DeepSeek宣布全面开源内部推理框架DeepInfer,据了解,DeepInfer集成高性能算子与深度优化的推理引擎,支持分布式推理、推测解码、SWA Bounded Replay、结构化输出等能力,兼容英伟达与华为昇腾平台。

  据DeepSeek介绍,大模型的能力边界由模型本身划定,但如何以合理成本提供超大规模的模型服务,还取决于一个长期未被公众了解的中间层:推理框架。

  “训练使模型学有所成,推理则让模型为人所用。”DeepSeek表示,希望通过分享内部的部署经验,帮助开发者与企业组织优化大规模推理的吞吐与延迟,从而高效构建私有化及公有云部署,降低算力成本、减少能源消耗,让智能以更低的价格触达更广泛的人群,实现真正的大模型普惠。

  据技术报告披露,目前,基于DeepInfer已实现DeepSeek V4.1 Flash高吞吐、低延迟的大规模推理服务,单一集群的服务吞吐是155万亿Tokens/天,整体收入是每卡每小时38美金(按谷价)。未来,DeepSeek新模型的推理代码及后续优化也将在此持续更新。

  此外,DeepSeek还宣布全面开源生产级Token编解码组件deepseek-recipe ,与DeepSeek官方API处理逻辑完整对齐,确保社区获得与官方部署一致的API体验。

  “借助全面开源的模型、算子库与推理框架,期待着在不远的未来,能够看到全球AI服务的范围与质量获得前所未有的扩展与提升,变得更加公平、透明、可信赖,进而实现在全社会范围内加快技术迭代、减少能源浪费,让有限的资源以更高的效率在基础设施与用户终端之间流转,以每个人都能够负担的成本传递更加强大的智能,以及伴随着智能的善意和无限可能性。”DeepSeek表示,将与各位一同携手,为实现这样的未来图景而不懈努力。

  此前10月17日,DeepSeek再次发布版本更新引发外界广泛关注:DeepSeekV4.1 Flash现已更新至V4.1-Flash-1017版本,官方网页端、APP与API模型已同步变更为新模型。据官方介绍,相比上一版本的DeepSeekV4.1 Flash,新模型在各方面的基准测试中取得长足的提升。

  在能力方面,DeepSeekV4.1 Flash 1017通过基于自反馈的强化学习(RL)训练技术,提升在游戏开发、3D建模等方面从零开始构建完整项目的能力,能够支持实现更多“许愿式”编程任务及项目开发请求,“许愿式”编程是指用户可以用自然语言描述开发需求,AI自主完成开发,减少人工干预。

  10月20日,外交部发言人毛宁主持例行记者会,法新社记者提问,美国政府已指示其各机构停止使用中国公司DeepSeek的人工智能工具,美方称该工具可能构成多重威胁,包括敏感数据可能被传输至中国。请问外交部对此有何评论?

  毛宁表示,中方一贯反对泛化国家安全概念、将科技经贸问题政治化,我们将坚决维护中国企业的合法权益。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500