英伟达 (NVIDIA)在 AI加速器 设计中采用了 3D垂直堆叠DRAM 技术
英伟达在AI芯片领域对3D堆叠技术的应用主要体现在以下几个方面:
英伟达采用3D垂直堆叠DRAM,通过垂直叠加内存模块提升数据传输效率。该设计还整合了 硅光子I/O器件 ,进一步优化芯片间的通信能力。
内存架构创新
通过垂直堆叠DRAM内存模块与GPU核心直接电气连接,实现了更高带宽和更低延迟的数据传输。这种设计类似于AMD 3D V-Cache技术,但规模更大,每个GPU模块可垂直连接六个DRAM内存模块,显著提升AI计算效率
芯片级集成优化
在下一代Rubin架构中,英伟达计划采用HBM4e内存(单卡容量达1TB)和NVLink 576光互联技术,通过3D堆叠实现算力5倍提升,为百万级GPU集群的AGI训练奠定基础
当前Blackwell Ultra芯片已应用3D堆叠技术和HBM3e内存,单卡内存容量达288GB,推理性能较前代提升40倍。
封装与能效突破
结合硅光子技术(SiPh)作为I/O器件,解决了传统铜互连的瓶颈。新架构通过垂直供电和多模块设计,在12个硅光子I/O器件的支持下,实现芯片间高速通信,同时集成冷板散热技术,进一步提升能效比
懂的自然懂,不懂也不要问
A股未来新王即将横空出世
光模块的下一个热点
划重点:
在下一代Rubin架构中,英伟达计划采用HBM4e内存(单卡容量达1TB)和NVLink 576光互联技术,通过3D堆叠实现算力5倍提升,为百万级GPU集群的AGI训练奠定基础
当前Blackwell Ultra芯片已应用3D堆叠技术和HBM3e内存,单卡内存容量达288GB,推理性能较前代提升40倍。
熬不动了睡觉了晚安!
HBM将拉动上游设备及材料用量需求提升。
(1)设备端:TSV和晶圆级封装需求增长。前道环节,HBM需要通过TSV来进行垂直方向连接,增加了TSV刻蚀设备需求;中段环节,HBM带来了更多的晶圆级封装设备需求;后道环节,HBM的多芯片堆叠带来diebond设备和测试设备需求增长。
(2)材料端:HBM的独特性主要体现在堆叠与互联上。对于制造材料:多层堆叠对于制造材料尤其是前驱体的用量成倍提升。。。。。
12层堆叠技术的MUF材料(液体封装材料LMC及GMC颗粒封装料),该材料是英伟达评估HBM内存堆叠技术的核心材料之一。。。。。
不是不睡功课没有做完,这次真的睡了