• 最近访问:
发表于 2025-08-22 23:36:10 东方财富Android版 发布于 北京
$N能之光(SZ920056)$$开特股份(SZ832978)$$微创光电(SZ430198)$FP8最大增量是低精度下的精度训练!
发表于 2025-08-22 21:09:10 发布于 北京

$众诚科技(SZ835207)$   

FP8(8位浮点数)的主要缺点为精度仅为8位,相比FP16(16位)或者FP32(32位)能够提供成倍的算力和缩短计算时间,但其精度大幅降低,所以需要通过精度训练来更好的保持模型精度。对于各行各业的“大模型”FP8混合精度预训练技术等显得尤为重要,且具有“先发优势”。涉及FP8混合精度训练技术的上市公司如下:

1. 佳都科技,公司基于FP8混合精度预训练等技术,实现知行大模型训练效率较2024年初提升超150%,并在国产千卡GPU集群上完成了大模型优化训练方法的验证,知行交通大模型迭代到2.0版本(下图)

2. 开普云,在模型深度适配环节,基于硬件特性开展大模型优化,实施模型并行策略、混合精度训练和显存优化,提升模型推理效率与资源利用率。

3. 大华股份,支持FP32和FP8混合精度训练,以在保持模型精度的同时最大化显存利用率和计算效率。

4. 众诚科技, 算法自演进优化:不断迭代提升算法精度,训练新算法。方案独有的多维度AI引擎可结合边缘测算力和AI算法,卸载前端数据滞留量,让AI稽核能够更好实现算法的优化和训练(下图),产品包含基于昇腾910系列芯片部分、deepseek一体机且为超聚变分销商和华为智能计算分销金牌商(附图)

5. 博实结,deepseek+精度无损模型研发 :深度学习网络的低比特在线量化训练,以更低的计算达到与同等参数量模型的浮点模型相当的性能。

6. 慧为智能,人工智能应用的软件通用开发平台技术,深度学习模型的剪枝蒸馏等方法在模型性能不变的情况下减少所需的计算资源,通过量化感知等方法保证在运行中的精度等性能(下图)

附图:

$同惠电子(SZ833509)$   $海达尔(SZ836699)$   

以上仅供FP8技术交流学习,不做投资建议,截图来自公告、公众号和网络,不做投资依据。

郑重声明:用户在财富号/股吧/博客等社区发表的所有信息(包括但不限于文字、视频、音频、数据及图表)仅代表个人观点,与本网站立场无关,不对您构成任何投资建议,据此操作风险自担。请勿相信代客理财、免费荐股和炒股培训等宣传内容,远离非法证券活动。请勿添加发言用户的手机号码、公众号、微博、微信及QQ等信息,谨防上当受骗!
作者:您目前是匿名发表   登录 | 5秒注册 作者:,欢迎留言 退出发表新主题
温馨提示: 1.根据《证券法》规定,禁止编造、传播虚假信息或者误导性信息,扰乱证券市场;2.用户在本社区发表的所有资料、言论等仅代表个人观点,与本网站立场无关,不对您构成任何投资建议。用户应基于自己的独立判断,自行决定证券投资并承担相应风险。《东方财富社区管理规定》

扫一扫下载APP

扫一扫下载APP
信息网络传播视听节目许可证:0908328号 经营证券期货业务许可证编号:913101046312860336 违法和不良信息举报:021-34289898 举报邮箱:jubao@eastmoney.com
沪ICP证:沪B2-20070217 网站备案号:沪ICP备05006054号-11 沪公网安备 31010402000120号 版权所有:东方财富网 意见与建议:021-54509966/952500