随着生成式人工智能和大模型技术的快速发展，AI处理器需求呈“井喷”式增长，具有高带宽、大容量、低延迟等特点的HBM成为AI行业的主流存储方案，但目前这一产品的产能仍存在很大缺口。今年5月，三星就已宣布2024年高带宽内存（HBM）产能售罄；SK海力士也表示2024年和2025年产能均已售罄；美光科技在第二季度财报中披露2024年的HBM产能已售罄，2025年绝大多数产能已分配完毕。这样一则消息，足以见得当下AI市场对HBM需求的强劲。接下来，小编将为大家详细分析HBM将会给材料行业带来怎样的机遇。

图源：全球半导体观察

HBM是什么？

HBM（高性能高带宽内存）是一种新型的存储芯片技术，它利用微凸点和硅通孔（TSV）技术将多个存储芯片堆叠在一起后和GPU封装，从而实现大容量和高速数据传输，以满足高性能计算、人工智能、大数据等领域的需求。HBM技术增加了存储堆栈的数量和位宽，缩短了存储芯片和逻辑芯片之间的距离，降低了工作电压并减少了信号线的数量和长度，因此，具备高带宽、低延迟和低功耗的优势。

HBM堆叠结构（图源：文献1）

HBM发展现状

HBM最初是美国超微半导体（AMD）和韩国SK海力士于2014年共同提出的，时至今日，HBM技术已经从HBM1升级到了HBM3E。HBM3E作为新一代高带宽内存技术，可以提供9.6GB/s的扩展数据速率，相较前一代HBM3的6.4GB/s有显著提升，这一提升使得HBM3E能够提供更高的内存带宽，来满足高性能计算和人工智能应用对数据传输速度的需求。在功耗方面，HBM3E凭借先进的电源管理技术（如降低内核电压和I/O信号电压），功耗相较竞争对手的产品降低30%。HBM3E的容量也有所提升，如三星电子开发的36GBHBM3E12HDRAM性能和容量均比前代产品提升50%以上。目前，三星、SK海力士和美光均在积极布局HBM4，预计在2026年前实现HBM4的量产。

HBM技术性能指标对比（图源：文献1）

HBM对AI产业有何重要意义？

当前生成式人工智能和大模型技术的快速发展，使其对于算力的要求逐渐提升。虽然GPU可以为AI模型训练和推理提供强大的算力支撑，但如果仅提升算力而忽视带宽，将会造成数据堆积，无法达到理想的数据处理速度。带宽作为提升数据计算效率的重要保障，会直接影响数据吞吐量，数据吞吐量越大，模型在单位时间内能够处理的数据便越多，响应速度就会越快。GDDR（一种用于图形处理器和高性能计算模块的显存类型）和HBM具有的高带宽、低功耗和低延迟等特性，正可以满足AI产业对于高带宽的需求。GDDR作为一种为高端显卡服务的高性能存储器，与现有的GPU架构兼容性较好，制造成本相对较低，可以较为容易的集成到现有的系统设计中去。而HBM技术通过堆叠内存芯片并利用硅中介层直接连接到GPU的方式，大幅度提高了内存带宽，这对于需要大量数据吞吐量的AI模型训练和推理极为重要，同时基于其设计和堆叠技术，HBM能够在提供高带宽的情况下，消耗较少的能量，对于减少AI计算中的能耗非常的关键。两者虽都可以在AI产业有所应用，但HBM在高性能数据中心、超级计算机和人工智能等领域更具优势。

图源：EDA学习

HBM将会引领哪些材料发展？

1、先进封装材料

（1）环氧塑封料：环氧塑封料是一种用于半导体封装的热固性化学材料，它主要由环氧树脂作为基体树脂，具有良好的绝缘性、耐热性，可以在保护半导体芯片不受外界环境影响的情况下，起到导热、绝缘、耐压、支撑等复合作用。HBM的封装过程需要使用高质量的环氧塑封料，因为这种材料可以适应HBM高带宽、高频率的工作环境，有效保护内部的芯片和电路，以确保信号的稳定传输和芯片的正常工作。

（2）底部填充胶：底部填充胶主要用于倒装芯片封装（Flip Chip）和其他形式的芯片封装。在HBM的封装中，它可以用于填充芯片与基板之间的间隙，起到增强连接强度、提高抗震性能和散热性能的作用，防止由于热循环造成的焊点疲劳和裂纹。随着HBM技术的不断发展，对底部填充胶的性能要求也越来越高，如需要高填充效率、良好的流动性和低热膨胀系数。硅酸盐、铝氧化物常用作底部填充胶的填料来进行使用。

2、基板材料

HBM中需要用到大量的基板材料，这些材料需要满足高带宽、高速信号传输、高密度互连、良好热管理、低介电常数、低热膨胀系数等要求，以有效减少信号延迟、信号能量损耗、维持互连的稳定性。如在PCB基板方面，可以使用FR-4、聚酰亚胺、液晶聚合物。

3、散热材料

（1）热界面材料：HBM在工作时会产生大量的热量，因此需要高效的散热材料来保证其正常运行。热界面材料是用于填充和改善内存芯片与散热器之间热接触的材料。它们可以有效减少热阻、提高热传导效率，从而将芯片产生的热量有效的传出。在HBM应用中，具有高导热系数、低粘度、良好的柔韧性、低热阻、良好的化学稳定性的热界面材料是发展的重点，如高导热的硅胶、石墨片等材料。

（2）散热基板：散热基板是散热系统的重要组成部分，它主要是将内存芯片产生的热量分散到更大的面积上，从而降低单位面积的热流密度。在HBM的应用中，散热基板通常是与散热器、液冷系统等散热系统协同工作，以确保内存模块可以在高负载的情况下保持稳定的温度。在选择材料时，需要选择具备高热导率、良好的机械强度和加工性能的散热基板材料，如金属基复合材料、陶瓷基复合材料等。

4、硅通孔（TSV）材料

（1）绝缘材料：TSV技术是通过在芯片与芯片之间、芯片与晶圆之间、晶圆与晶圆之间制作垂直导通路径，以实现芯片之间互连的技术，属于HBM制造中一大关键技术。其中绝缘材料用于填充TSV孔的侧壁，起到绝缘和隔离的作用。在AI时代，随着TSV技术的不断发展和HBM性能的不断提升，对绝缘材料的要求也越来越高，如更高的绝缘性能、更好的耐高温性能、更低的介电常数等。

（2）导电材料：TSV中的导电材料用于实现芯片之间的电气连接，其性能直接影响着HBM的信号传输速度和带宽。因此，具有高导电性、良好的抗电迁移性能和可靠性的导电材料，如铜、钨等金属材料，将会在HBM的TSV技术中得到广泛的应用。

5、存储材料

（1）DRAM芯片材料：HBM是由多个DRAM芯片堆叠而成，因此DRAM芯片的材料性能对HBM的整体性能有着重要的影响。在AI时代，为了满足HBM对高带宽、大容量、低功耗的要求，DRAM芯片的材料需要不断改进和优化，如采用更先进的半导体材料、优化芯片的结构设计等。

（2）新型存储材料：除了传统的DRAM芯片，研究人员也在探索新型的存储材料用于HBM，如相变存储器（PCM）、磁性随机存储器（MRAM）、电阻式随机存储器（RRAM）等。这些新型存储材料具有更高的存储密度、更快的读写速度和更低的功耗，有望在未来的HBM技术中得到应用。

小结

生成式人工智能市场的迅速扩张，使得全球市场对AI服务器内存需求急剧上升，具有高带宽、高性能的HBM已成为当下炙手可热的产品。HBM市场的供不应求，使三大存储巨头三星、SK海力士、美光科技积极扩产，有望带动上游先进封装材料的需求。

参考文献：

1、陈煜海,余永涛,刘天照,等.高带宽存储器的技术演进和测试挑战[J].电子与封装.

2、钟伟军,吴迪,孔宪伟.高带宽存储器测试技术研究[J].信息技术与标准化.

3、薛爽.基于高带宽存储器的图计算加速机制的研究[D].中国科学技术大学.

4、倪雨晴.存储市场回暖巨头抢滩HBM高地[N].21世纪经济报道.

5、许子皓.下一代HBM技术抢先战拉开序幕[N].中国电子报.

粉体圈 Alice