Nvidia 执行官黄仁勋确认,三星电子的高带宽内存 (HBM) 将集成到 Nvidia 产品中。他特别回应了近有关三星因过热问题未通过质量测试的指控,他的反驳引起了极大关注。
6 月 4 日,在台北南港展览馆举行的新闻发布会上,黄仁勋回答了有关三星何时能成为 Nvidia 合作伙伴的问题。他表示:“我们需要的 HBM 数量非常大,因此供应速度至关重要。我们正在与三星、SK 海力士和美光合作,我们将收到这三家公司的产品。”
黄仁勋特别提到了近有关三星 HBM 因过热问题而未能通过测试的报道。他澄清道:“它没有因为这些原因而失败,那些报道毫无意义。我们与三星的合作进展顺利。我希望它能在昨天之前完成,但事实并非如此。我们需要耐心等待。”
随着黄仁勋的表态,业界预计三星的 HBM 将很快供应给 Nvidia。早在今年 3 月,在美国的一场开发者大会上,黄仁勋就曾亲临三星展台,亲自评测 HBM3E 产品,并在展台的标牌上亲笔签名“Jensen Approved”,然后才离开。
HBM,为何爆火? 半导体领域的记忆体是不受宠制程,是出名的景气循环股。但本季有个支线成为关注焦点,就是AI 时代新宠儿:HBM,高带宽记忆体。
AI人工智能一波波点醒科技业成长动能,一年半的吹拂下,从生产GPU图形芯片组的辉达(NVIDIA),到「AI五王」之称的伺服器组装厂,包括纬创、广达、英业达、光宝科、技嘉,再到高阶零组件的电源供应器台达、散热模组双鸿等。现在,这股春风终于吹上记忆体产业的脸。
2023下半年开始,半导体产业出现新话题名词:HBM(High Bandwidth Memory,高带宽记忆体),为DRAM(Dynamic Random-Access Memory,动态随机存取记忆体)的一种,采3D立体堆叠成高效能记忆体,储存执行中程式和数据,可说HBM就是叠在一起的DRAM。
HBM与传统DRAM相比,有高带宽、低功耗与体积小等优点,但因制程复杂,价格高贵,所以2013年技术突破后只有高阶产品采用,非市场主流。
但新世代高运算需求的AI芯片(GPU / CPU),目标是处理大量并行数据,所以需要高算力和大带宽,算力愈强、每秒处理数据速度愈快,带宽愈大、每秒可存取数据愈多。
2025年销售上看50亿美元
从产品布局观察,一颗GPU配备多颗HBM,如辉达一颗H100超级芯片组,搭配五颗HBM,容量可达80GB。3月辉达发表B100和B200芯片组,用到八个HBM,容量上修至192GB,可见愈来愈多HBM是将来趋势。
辉达主要竞争对手超微(AMD)MI300系列更试图以记忆体容量领先,超微2015年起就采HBM设计方案,几乎是HBM应用鼻祖,更热烈拥抱,技术选择从堆叠八层,往上进攻到堆叠12层;自制AI芯片的Google,TPU系列每代都用倍数HBM。
市场强烈需求拉抬HBM大爆发,市调机构Gartner预估,2023年全球HBM销售规模为20.05亿美元,2025年将翻倍到49.76亿美元。
但标准型记忆体的产品差异性不大,又广泛应用消费性电子产品,易受总体经济影响,市场需求强烈使产品价格敏感,每隔三五年就能见到「谷贱伤农」的破产整并惨况,几波循环后,全球标准型记忆体走向三雄盘踞局面。
以销售规模估算,2023年第四季市场占有率(表1),分别为韩国海力士(SK hynix)45.5%、韩国三星(Samsung)31.8%、美国美光(Micron)19.2%,彼此角力激烈,每季数据都略有消长。
DRAM为「景气循环股」,2020年受疫情与宅经济刺激,有一波意外荣景,但又过分吸纳「未来买市」,迫使2022下半年开始,进入漫长又难以消除的「库存期」 。当时下行周期预估可能更长,但2023年突起AI大浪潮,2024年拓展了HBM新需求,再度意外让HBM成为这波景气上行的转折点。
SemiAnalysis数据显示,HBM现况约为SK海力士73%、三星22%、美光5%,暂时领先的海力士也是三雄布局快积极。
「为了生产新世代HBM,我们决定投资38.7亿美元研发与生产,在美国印第安那州兴建先进封装厂。」SK海力士3月宣告,资本支出导向HBM产能。执行长郭鲁正(Kwak Noh-Jung)表示,该厂2028下半年开始量产新HBM,借此领航全球AI半导体供应链。
DRAM龙头三星也不甘示弱,随后调整产线,上修HBM产能,三星执行副总裁黄相中(Hwang Sang-Joong)指出,三星HBM产能有望年增2.9倍。
老三美光同样得到HBM春风照拂,执行长梅罗特拉(Sanjay Mehrotra)表示「美光今年HBM产能销售完毕,明年多数产能也都预定完毕」,HBM产品可望本会计年为美光创造数亿美元营业额。
记忆体产业一片荣光,台厂虽然吃不到甜的部分,但景气同样转折上行。如台厂DRAM制造指标大厂华邦电子、南亚科技,近期就传来捷报。
华邦电2024年第一季营业收入为新台币201.2亿元,年增14.9%。总经理陈沛铭认为,今年三大厂的产能配置,往HBM调整,估计不会放在相对竞争的DDR3与DDR4,估计第二到第三季,DDR3市场呈现供应平衡,或略为供不应求,有助于攻价格走势,「对以DDR3为主力产品的华邦有利。」
此外,南亚科技也有不错斩获, 「第一季是我们DRAM复苏的起头,我们看到ASP(平均销售单价)的改善。另外,第一季闲置成本也降低,也就是说我们逐步恢复正常生产, 」南亚科技总经理李培瑛从自家财务层面,印证下行多时的记忆体产业春风吹起。
南亚科技2024年第一季营业收入为新台币95.03亿元,季增9.2%、年增48%,第一季DRAM平均售价提升个位数百分比,单季销售量也向上拉动。
「预期2024年DRAM市场维持稳健复苏。」李培瑛表示,从市场供需状态观察,在供给方面,DRAM三大厂陆续将现有产能转进HBM产品,而且在新的资本支出上,也往HBM靠拢。所以标准型DRAM减产之下,有助于消化上一个高原期的库存,也能让身陷泥沼的价格得以回升,舒缓困局。
此外,后段制程的力成科技,也得到日本客户的HBM封装订单。力成董事长蔡笃恭表示,力成深耕先进封装技术已十多年,现在可应用在HBM上,尤其现阶段晶圆愈来愈薄,也需要更精细的研磨,公司已购入与晶圆厂同款的研磨机台,第二季进驻之后,将于年底加入产线。
值得注意的是,专注于逻辑制程的台积电,在HBM蓬勃之下,也捡到一波周边商机,主要是硅穿孔TSV技术与CoWoS先进封装技术的相融。
目前在HBM领先的SK海力士,4月中旬宣布与台积电展开新的合作,加速HBM新产品推进,预计2026年投产的HBM4,即第六代HBM产品。
良率有待突破,市况还很难说 HBM前景明亮,但是否就无挑战?「HBM供不应求的原因,其实是良率,」TrendForce分析师王豫琪表示,普遍猜测良率约只50~60%,差不多是做两个坏一个的状态,因为它不只要堆叠起来,还需要加压,让整体高度能与其他芯片对接,「但加压需要上下同时,并且保持平衡,失衡就会坏片。」
「HBM对产业是新的刺激,也是好的刺激,」王豫琪分析,过去都是新产品、新技术打破循环框架,这次HBM也达到这个效果,只是这波因AI带动的浪潮,这么大的运算能量、成本投入,市场能不能及时给予回馈?「AI技术发展、市场变现速度,两者是不是在同一个节奏?攸关HBM后市发展。」