HBM迎爆发风口！新一代AI内存芯片，龙头强者恒强
HBM迎爆发风口！新一代AI内存芯片，龙头强者恒强，hm170芯片组 内存频率
当前人工智能新一轮浪潮爆发，ChatGPT 训练量大幅提升，最底层基础设施需要大算力芯片和内存芯片。
搭载于新兴 AI 应用的内存芯片亟待升级，HBM 有望在 AI 高算力和高存力需求下成为重要技术趋势。
根据 Omdia 数据显示，HBM 产品增速在 2022 年增长超过 40%。随着 Chatgpt 产品用户量的暴增，HBM23 年增速有望同比增加 50%。虽然目前 HBM 在整体 DRAM 占比较低约为 2%-3%，但预计 25-26 年占比有望翻倍。
作为存储市场重要组成部分，DRAM 技术不断地升级衍生，DRAM 从 2D 向 3D 技术发展，其中HBM 是主要代表产品。
HBM 全称 high bandwidth memory，新型 CPU / GPU 内存芯片，是一种基于 3D 堆叠工艺的 DRAM 内存芯片，被安装在 GPU、网络交换设备、AI 加速器及高效能服务器上。
HBM的立体结构：
资料来源：AMD
以 HBM 为代表的超高带宽内存技术生成类模型也会加速 HBM 内存进一步增大容量和增大带宽。
HBM 能大幅提高数据处理速度，每瓦带宽比 GDDR5 高出 3 倍还多，且 HBM 比 GDDR5 节省了 94%的表面积。
DRAM 带宽迭代历程及 HBM 架构概览：
资料来源：YOLE
HBM 将多个 DDR 芯片堆叠后和 GPU 封装在一起， 实现大容量、高位宽的 DDR 组合阵列。通过增加带宽，扩展内存容量，让更大 的模型，更多的参数留在离核心计算更近的地方，从而减少内存和存储解决方案带来的延迟。
基于对先进技术和解决方案开展的研究，全球存储巨头竞逐 HBM。
据 TrendForce 集邦咨询研究显示，2022 年三大原厂 HBM 市占率分别为 SK 海力士（SK hynix）50%、三星（Samsung）约 40%、美光（Micron）约 10%。
2021 年 10 月，SK 海力士开发完成全球首款 HBM3，2022 年 6 月量产 HBM3 DRAM 芯片 并供货英伟达，持续巩固其市场领先地位。
此外，高阶深度学习 AI GPU 的规格也刺激 HBM 产品更迭，2023 下半年伴随 NVIDIA H100 与 AMD MI300 的搭载，三大原厂也已规划相对应规格 HBM3 的量产。
因此，在今年将有更多客户导入 HBM3 的预期下，SK 海力士作为目前唯一量产新世代 HBM3 产品的供应商，其整体 HBM 市占率有望藉此提升至 53%，而三星、美光则预计陆续在今年底至明年初量产，HBM 市占率分别为 38% 及 9%。
而随着英伟达使用 HBM DRAM，数据中心或将迎来新一轮的性能革命。
国内相关布局厂商包括澜起科技、国芯科技、通富微电、深科技、长电科技、兆易创新、北京君正等。
根据 Yole 预测，DRAM 所用的 TSV 封装技术（HBM/3Ds）及混合键合技术将在存储封装市场中取得亮眼进展，二者合计占 比将由 2020 年的 5%上升至 2026 年的 17%，实现 32 亿美元的市场规模。
此外，高速运算催生的新协定，CXL 将更有效整合系统中的运算资源。未来 AI 服务器的硬件建设，将能见到更多同时采用 HBM 及 CXL 的设计。其中 HBM 能分别增加 CPU 及加速器各自的频宽，加速数据处理速度； CXL 则建立彼此间沟通的高速互联性，两者交互有助于扩展 AI 算力从而加速 AI 发展。
随着AI 服务器出货动能强劲，以及AI 芯片性能及成本的平衡会带动周边生态，HBM产业链有望全面受益。
关注乐晴智库，洞悉产业格局！