三星电子有限公司成功研发出业界首款12层堆叠HBM3E DRAM——HBM3E 12H，这是迄今为止容量最大的HBM产品。这款新型HBM3E 12H内存模块提供了高达1,280GB/s的史上最高带宽，并拥有36GB的存储容量，相较于之前的8层堆叠HBM3 8H，在带宽和容量两方面均提升了超过50%。
三星内存产品规划执行副总裁Yongcheol Bae表示：“随着行业内AI服务提供商对更高容量HBM的需求日益增长，我们新推出的HBM3E 12H产品正是针对这一需求设计的。这款新的内存解决方案是我们致力于开发高堆叠HBM核心技术，以及在AI时代引领高容量HBM市场技术发展的一部分。”
HBM3E 12H采用了先进的热压缩非导电薄膜（TC NCF）技术，使得12层产品的高度规格与8层产品相同，满足当前HBM封装要求。随着行业努力减轻芯片薄化带来的晶片翘曲问题，这项技术在更高的堆叠层数中预计会带来额外优势。制造商不断减小其NCF材料的厚度，实现了业界最小的7微米芯片间隙，并消除了层间空洞。这些努力使得HBM3E 12H相比HBM3 8H产品垂直密度提高了超过20%。
此外，三星先进的TC NCF技术还通过允许芯片间采用不同尺寸的凸点，改善了HBM的热性能。在芯片键合过程中，信号传输区域使用较小的凸点，而在需要散热的地方放置较大的凸点。这种方法不仅有助于提高产品的整体产出率，也有利于更好的散热管理。
随着AI应用呈指数级增长，HBM3E 12H被期待成为未来需要更大内存系统的理想解决方案。凭借其更高的性能和容量，客户能够更加灵活地管理资源，降低数据中心的总体拥有成本（TCO）。在AI应用场景中，相比于采用HBM3 8H，使用HBM3E 12H有望使AI训练速度平均提升34%，同时推理服务的同时用户数量可增加超过11.5倍。
目前，三星已经开始向客户提供HBM3E 12H样品，并计划于2024年上半年实现大规模生产。
