全部
  • 全部
  • 解决方案
  • 技术问答
  • 视频中心
  • 知识分享
  • 技术资讯
  • SEED产品
400-048-1230
订阅
  • 首页
  • 解决方案
  • 技术问答
  • 视频中心
  • 知识分享
  • 技术资讯
  • SEED产品
AI时代,高带宽存储器(HBM)掀起存储芯片新浪潮
来源:Arrow 发布:2024/04/10 浏览量:117

AI热潮造就GPU繁荣的同时,也让扮演关键角色的HBM热度高居不下,成为当前AI赛道的新兴爆发风口。

2022年末,ChatGPT的面世无疑成为了引领人工智能浪潮的标志性事件,宣告着新一轮科技革命的到来

 

ChatGPT掀起的一片浪花,到无数大模型席卷全球浪潮,再到今年的Sora火爆全网,人工智能的浪潮一浪高过一浪。

 

在这波浪潮中,伴随着人才、数据、算力的不断跃级,人工智能产业正展现出巨大的潜力和应用前景,正在多个领域展现出重要作用。

 

AI的快速发展对算力的需求呈现井喷的态势,全球算力规模超高速增长。国际数据公司IDC、浪潮信息等联合发布的《2022-2023全球计算力指数评估报告》预测,全球AI计算市场规模将从2022年的195亿美元增长到2026年的346.6亿美元。

 

巨大的生产潜力下,以GPU为代表的AI芯片供应商在市场上独孤求败,无论是股票市值还是公司业绩,头部AI企业涨幅领跑全球市场,迎来了有史以来最强劲的增长态势。

 

GPU繁荣背后,HBM同样炙手可热

 

AI热潮造就GPU繁荣的同时,也让扮演关键角色的HBM热度高居不下,成为当前AI赛道的新兴爆发风口。

 

HBM,全称为High Bandwidth Memory,即高带宽存储器,是一款新型基于3D堆栈工艺的高性能DRAM,其实就是将很多个DDR芯片堆叠在一起后和GPU封装在一起,实现大容量,高位宽的DDR组合阵列。

图:AMD官网

 

与传统DRAM芯片相比,HBM具有高带宽、高容量、低延时与低功耗等优势,可以加快AI数据处理速度。

 

凭借这些优势,HBM能够实现大模型时代的高算力、大存储的现实需求,在所有存储芯片中,HBM被看作是最适用于AI训练、推理的存储芯片,是AI性能提升的关键。

 

据了解,HBM主要是通过硅通孔(TSV)工艺进行芯片堆叠,以增加吞吐量并克服单一封装内带宽的限制,将数个DRAM裸片像楼层一样垂直堆叠。相较传统封装方式,TSV技术能够缩减30%体积,并降低50%能耗。

 

同时,也正是基于Interposer中介层互联实现了近存计算,以及TSV工艺的堆叠技术,也让更大的模型,更多的参数留在离核心计算更近的地方,从而减少内存和存储解决方案带来的延迟。

 

从技术角度看,HBM使得DRAM从传统2D转变为立体3D,充分利用空间、缩小面积,正契合半导体行业小型化、集成化的发展趋势。HBM突破了内存容量与带宽瓶颈,被视为新一代DRAM解决方案,业界认为这是DRAM通过存储器层次结构的多样化开辟一条新的道路,革命性提升DRAM的性能。

 

随着存储数据量激增,市场对于HBM的需求将有望大幅提升。

 

从技术迭代上看,自2014年全球首款硅通孔HBM产品问世以来,HBM已经从HBM1HBM2HBM2E,发展至目前被业界认为成为市场主流的HBM3,甚至HBM3E

 

最初的HBM14die堆叠,提供128GB/s带宽,4GB内存,显著优于同期GDDR5

 

HBM22016年发布,2018年正式推出,为4DRAM die,现在多为8die,提供256GB/s带宽,2.4Gbps传输速度和8GB内存;

 

HBM2E2018年发布,于2020年正式提出,在传输速度和内存等方面均有较大提升,提供3.6Gbps传输速度和16GB内存;

 

 HBM32020年发布,2022年正式推出,堆叠层数及管理通道数均有增加,提供6.4Gbps传输速度和16GB内存;

 

第五产品HBM3E,提供高达8Gbps的传输速度和24GB容量,计划于2024年大规模量产。

图源:Rambus

 

近段时间来,全球多个科技巨头都在竞购第五代高带宽内存HBM3E。自2024年起,市场关注焦点即由HBM3转向HBM3e,预计下半年将逐季放量,并逐步成为HBM市场主流。

 

对于接下来的规划和技术发展方向,业界旨在突破目前HBM在速度、密度、功耗、占板空间等方面的极限。

 

过去几年来,HBM产品带宽增加了数倍,目前已接近或达到1TB/秒的里程碑节点。相较于同期内其他产品仅增加两三倍的带宽增速,HBM的快速发展归功于存储器制造商之间的竞争和比拼。

 

下一代HBM4有望于2025-2026年推出。随着客户对运算效能要求的提升,HBM4在堆栈的层数上,除了现有的12hi12层)外,也将再往16hi16层)发展,更高层数也预估带动新堆栈方式hybrid bonding的需求。HBM4 12hi产品将于2026年推出,而16hi产品则预计于2027年问世。

 

HBM芯片,AI时代的金矿

 

HBM突破了内存容量与带宽瓶颈,可以为GPU提供更快的并行数据处理速度,打破内存墙对算力提升的桎梏。

 

凭借诸多优势,HBM成为AI时代的新宠,受到各大厂商的追捧,市场需求强劲。

 

首先,AI服务器的需求会在近两年爆增,如今在市场上已经出现了快速的增长。AI服务器可以在短时间内处理大量数据,GPU可以让数据处理量和传输速率的大幅提升,让AI服务器对带宽提出了更高的要求,HBM基本成为了AI服务器的标配。比如,AMDMI300XMI300AMI250MI250X等系列GPU已成为AI服务器市场的主流产品,这些GPU基本都配备了HBM

 

并且AI浪潮还在愈演愈烈,HBM今后的存在感或许会越来越强。据semiconductor-digest预测,到2031年,全球HBM市场预计将从2022年的2.93亿美元增长到34.34亿美元,在2023-2031年的预测期内复合年增长率为31.3%

 

这样的市场表现,无疑证明了HBM在市场上的巨大潜力。它不仅仅是一种存储芯片,更是AI时代的金矿

 

除了AI服务器,汽车也是HBM值得关注的应用领域。汽车中的摄像头数量,所有这些摄像头的数据速率和处理所有信息的速度都是天文数字,想要在车辆周围快速传输大量数据,HBM具有很大的带宽优势。

 

另外,ARVR也是HBM未来将发力的领域。因为VRAR系统需要高分辨率的显示器,这些显示器需要更多的带宽来在 GPU 和内存之间传输数据。而且,VRAR也需要实时处理大量数据,这都需要HBM的超强带宽来助力。

 

此外,智能手机、平板电脑、游戏机和可穿戴设备的需求也在不断增长,这些设备需要更先进的内存解决方案来支持其不断增长的计算需求,HBM也有望在这些领域得到增长。并且,5G 和物联网 (IoT) 等新技术的出现也进一步推动了对HBM的需求。

 

整体来看,随着人工智能、机器学习、高性能计算、数据中心、自动驾驶、AR/VR等应用市场的兴起,内存产品设计的复杂性正在快速上升,并对带宽提出了更高的要求,不断上升的宽带需求持续驱动HBM发展。相信未来,存储巨头们将会持续发力、上下游厂商相继入局,让HBM得到更快的发展和更多的关注。

 

据市场研究机构TrendForce预测,2023年全球搭载HBM总容量将达2.9亿GB,同比增长近60%。到2027年,HBM市场预计将以82%的复合年增长率保持增长,未来市场前景非常广阔。

 

2023年的市场风云中,存储芯片市场持续低迷,HBM如同一股清流逆流而上,照亮了存储行业的前行之路,成为存储巨头在下行行情中对业绩的重要扭转力量,也是产业链上常提及的高频词。

 

当以AI GPU为代表的相关各类需求如潮水般汹涌而至,由于英伟达和AMDAI芯片制造商的需求激增,HBM价格逆势上扬,成为了行业的香饽饽

 

方正证券报告指出,从成本端来看,HBM平均售价至少是DRAM三倍;而此前受ChatGPT的拉动同时受限产能不足,供不应求成为现状,HBM价格一路上涨。

 

2023年,HBM平均售价逆势暴涨”500%2024年,HBM依旧状态火热

 

扩产,HBM厂商的主旋律

 

受生成式AI大模型等领域的驱动,HBM逐渐发展成为新兴热门产业之一,随着上游客户不断发出新的需求,目前HBM市场正释放出供不应求的信号。

 

在此现状和趋势下,HBM产能紧张的问题日益凸显,正释放出供不应求的信号。很多高性能GPU的产能上不来,很大程度上就是因为HBM不够用了。

 

日前,美光科技CEO Sanjay Mehrotra 在财报电话会议上表示,AI 服务器需求正推动 HBM DDR5 和数据中心 SSD 快速成长,这使得高阶 DRAMNAND 供给变得吃紧,进而对储存终端市场报价带来正面连锁效应。同时强调道:美光今年HBM产能已销售一空,且2025年绝大多数产能已被预订。

 

不难猜测,在此情形下,其他HBM供应商例如SK海力士和三星电子的产能估计也会变得紧张。

 

对此,生产和扩产成了HBM提供商的主旋律。

 

据报道,包括美光科技在内的头部存储原厂正在追加投资HBM产线,扩大HBM目标产能,以应对市场的旺盛需求。同时,大厂们继续埋头攻破技术壁垒,以迅速抓住市场新机遇,力求在下一代标准中掌握主导权。

 

预计今年各大制造商在HBM领域将会有更多举措,属于HBM市场的一场争夺战正式开启。

 

然而,即便是在这样的扩产计划下,HBM的供应仍然难以满足市场的需求。市场研究公司Yole表示,受到生产扩张难度和需求激增的双重影响,2023-2028年间,HBM供应的年复合增长率将达到45%。这意味着,在相当长的一段时间内,HBM的价格都将保持高位。

 

从性能来看,HBM无疑是出色的,其在数据传输的速率、带宽以及密度上都有着巨大的优势。不过,目前HBM仍主要应用于服务器、数据中心等应用领域,其最大的限制条件在于成本,对成本比较敏感的消费领域而言,HBM的使用门槛仍较高。因此HBM当前市场份额还比较低,但随着多领域需求的提升,未来HBM市场将会呈现爆发式的增长。

 

根据TrendForce预估,2024年全球HBM的位元供给有望增长105%,市场规模也有望于今年达89亿美元,同比增长127%,预计至2026年市场规模将达127.4亿美元,对应CAGR37%

 

以规格而言,伴随AI芯片需要更高的效能,HBM主流也将在2024年移转至HBM3HBM3E。整体而言,在需求位元提高以及HBM3HBM3E平均销售价格高于前代产品的情形下,2024HBM营收可望有显著的成长。

 

存储回暖,HBM加速

 

目前消费电子已出现复苏信号,行业新的转机正在孕育生成,AI催生存力新需求,2024年存储市场有望迎来新的转机。

 

在供应链库存水位已大幅改善和需求回温的态势下, 客户为避免供货短缺及成本垫高的风险, 持续增加采购订单。

 

TrendForce数据预测,2024年一季度受惠订单规模持续放大,激励DRAM合约价季涨幅约13~18%NAND Flash则是18-23%

 

NAND Flash合约价平均涨幅高达25%;观察2024年第一季DRAM市场趋势,原厂目标仍为改善获利,涨价意图强烈,促使DRAM合约价季涨幅近两成。

 

展望第二季度,虽然目前市场对整体需求看法仍属保守,但DRAMNAND Flash供应商已分别在2023年第四季下旬,以及2024年第一季调升产能利用率,加上NAND Flash买方也早在第一季将陆续完成库存回补。因此,DRAMNAND Flash第二季合约价季涨幅皆收敛至3~8%

 

存储芯片市场价格的反弹信号,让行业人士看到了“曙光”。

 

而随着HBM的兴起,将成为半导体和算力行业未来新的增长点,HBM无疑将继续引领存储行业的新篇章。而那些能够在这个领域立足并不断创新的公司,也将会迎来更加广阔的发展空间和机遇。

 

WSTS预测,2024年存储芯片市场涨幅达44.8%

 

过去两年来,在存储市场下行时期,HBM作为行业的中流砥柱异军突起,为行业疲态雪中送炭;而如今,随着存储行业触底反弹,优势傍身的HBM在产业抢购与扩产声中,再次掀起存储芯片的发展新浪潮,为其增势锦上添花

 

展望未来,随着AI技术的不断进步和应用场景的拓展,HBM的需求将会持续增长。而国际存储芯片大厂们也在积极布局,加大产能扩张力度,以应对市场的挑战。同时,随着HBM技术的不断成熟和应用领域的拓展,其成本也有望逐渐降低,从而进一步推动其在市场上的普及和应用。

 

(本文章由SupplyFrame提供, 对于文章中相关的分析、市场预测等信息仅供参考, 艾睿电子不对任何文章内的资料因不充分、不完整或未能提供特定资料产生的任何损失承担任何责任。图片及封面由摄图网提供)

 

市场趋势
请使用浏览器分享功能 请点击右上角,进行分享
关于艾睿 代理产品线 联系我们 条款和条件