在晶圆代工边界,三星与台积电是隧说念的竞争磋议,但在存储芯片商场,动作行业霸主,三星却不得不寻求与台积电潜入互助,这皆是英伟达惹的祸。
据DigiTimes报说念,三星HBM3E内存尚未通过英伟达的测试,仍需要进一步考证,这是因为卡在了台积电的审批技艺。动作英伟达AI GPU芯片的制造和封装厂,台积电是英伟达考证技艺的进军参与者。据悉,台积电选择的是基于SK海力士HBM3E居品设定的检测表率,而三星的HBM3E居品在制造工艺上有些各异,举例,SK海力士芯片封装技艺选择了MR-MUF材料手艺,三星则是基于TC-NCF手艺,这会对一些参数产生影响。
三星在4月暗示,其8层垂直堆叠的HBM3E仍是在4月量产,并计算在本年第二季度量产12层堆叠的HBM3E,比原计算提前了一个季度。按照三星的说法,为了更好地叮咛生成式AI日益增长的需求,该公司加速了新款HBM居品的样貌程度。
自从HBM问世并量产以来,SK海力士一直是英伟达为其AI GPU配备该类内存的独家供应商,发展到HBM3E版块,依然如斯,仅仅从2024年第二季度驱动,另外两家内存大厂才驱动加入英伟达HBM供应链。因此,SK海力士是行业霸主,商场份额卓绝80%。
2022年,SK海力士专为英伟达的H100联想了HBM3,其性能令东说念主讶异,且HBM在经济上是可行的,并一举诞生了行业地位。在这种情况下,三星和好意思光准备消耗数十亿好意思元来扩大芯片分娩才智。最近,三星推出了其12层堆叠的HBM3E,旨在将其与SK海力士和好意思光的8层堆叠居品分歧开来。
在不久前举行的年度股东大会上,SK海力士终点享受它的告捷服从,这家韩国内存制造商暗示,HBM必须为客户“定制和专科化”,这是在强调其与英伟达的深厚磋议。
同期,三星也晓谕了其HBM产量的增长计算,一位高管暗示,该公司计算本年将芯片产量增多两倍。英伟达首席推行官黄仁勋(Jensen Huang)在Blackwell居品发布会上暗示,正在对三星的HBM3E进行阅历认证,黄仁勋这是在侧面敲打SK海力士,以幸免供应商一家独大,出现客大欺店的情况。
相对于三星和SK海力士,好意思光(Micron)晚一年才推出HBM居品,但凭借其在HBM3E版块居品上的“弯说念超车”弘扬,终点是其3D堆叠手艺,使HBM3E在有限的空间中,知足高带宽与大容量的需求,有望在HBM竞赛中扳回一城。好意思光的HBM3E瞄向了英伟达新推出的DGX GH200。
01
三巨头列队考证HBM3E
动作AI干事器芯片行业霸主,英伟达具有很强的语言权,这使得内存行业厂商不得不适合该公司的表率和考证条件。而为了终了供应链多元化,英伟达将更多HBM内存厂商纳入了其供应链,动作新干涉者,三星的HBM3E正在恭候考证通过,而好意思光和SK海力士仍是在2023下半年向英伟达提供了8层垂直堆叠的HBM3E(24GB)样品,并在2024年头通过了英伟达的考证,并赢得了订单。
当今,唯有三星一家在张皇地恭候,因为这三大原厂的HBM3E考证终端,将决定英伟达2024全年HBM供应商的采购权重分派。
2023年,英伟达的高端AI芯片(选择HBM内存)是A100/A800和H100/H800,2024年,其居品组合更多了,除了上述型号,还将再推出使用6个HBM3E的H200和8个HBM3E的B100,并整合该公司自研的Arm架构CPU,推出GH200和GB200。
除了英伟达,另外两大处理器厂商也在加紧拓展AI干事器商场,这将进一步推动HBM内存商场的茂密。
2024年,AMD出货的主力居品是MI300系列,选择HBM3内存,下一代MI350将选择HBM3E,展望2024下半年驱动进行HBM考证,多半量上市将在2025年第一季度。英特尔方面,2022下半年推出的Gaudi 2选择了6个HBM2E,2024年,展望其新式号Gaudi 3仍将选择HBM2E,但用量升至8个。
将来,除了英伟达,AMD和英特尔会使用越来越多的HBM居品,这会给三大内存原厂提供更多商机。
02
考证的卡点
据分析师和行业不雅察东说念主士称,在HBM居品考证方面,三星落伍的原因之一是其坚捏使用被称为热压非导电膜(TC-NCF)的手艺,这导致了一些分娩问题,而SK海力士则一直选择大范围回流模制底部填充(MR-MUF)手艺,不错克服NCF的时弊。
TC-NCF手艺已被芯片制造商平时使用,用于将多层芯片堆叠在紧凑的高带宽存储芯片组中,因为使用热压缩薄膜有助于最大甘休地减少堆叠芯片之间的空间。然则,跟着层数抑止增多,制造变得越来越复杂,因此,相似存在与粘合剂材料有关的问题,芯片制造商一直在寻找替代决议来处理这些问题。MR-MUF是一种环氧树脂模塑化合物,被以为在幸免晶圆翘曲方面更有上风。
SK海力士来源得胜转向MR-MUF手艺,并成为第一家向英伟达供应HBM3内存的供应商。
在SK海力士得胜将MR-MUF愚弄于HBM2E分娩后,受到了芯片行业的见原。SK海力士使用的这种化合物是与Namics互助分娩的。
MR-MUF用于HBM封装,它对HBM芯片的外部结构有权贵影响。SK海力士在创建12层HBM3时,将一个居品中堆叠的DRAM数目从8个(16GB)增多到12个,从而将容量擢升了50%。通过这种款式,SK海力士终显着24GB的容量。为了在保捏芯片厚度的同期增多容量(堆叠层数),必须将DRAM芯片逐一进取堆叠,借钱炒股这会导致较薄的芯片产生迂曲,MR-MUF封装对于留意这种情况并保捏芯片的厚度是成心的。
不久前,有讯息东说念主士说,三星发布了旨在处理MR-MUF手艺的芯片制造开采的采购订单。讯息东说念主士称,三星与包括日本长濑在内的材料制造商进行谈判,以采购MUF材料,使用MUF的高端芯片的大范围分娩最早可能要到2025年才能准备就绪,因为三星需要进行更多的测试。
据悉,三星对其HBM内存进行了大范围的MR-MUF工艺测试,终端自大与现存的TC-NCF比拟,糊涂量有所擢升,但物理特质有所下跌。
三星芯片制造部门的一位高等足下在2023年下令对MUF手艺进行测试,得出的论断是MUF不适用于HBM居品,最为稳妥的对象是3D堆叠RDIMM。一般情况下,3D堆叠RDIMM选择硅通孔(TSV)手艺制造,主要用于干事器。硅通孔手艺是在Wafer或者Die上穿出数千个小孔,终了硅片堆叠的垂直互连通说念,而MUF则是险阻不时,减弱相互之间罅隙的材料,有助于紧密凝固和谐和各式垂直堆叠的半导体材料。
据悉,三星计算与SDI互助开发我方的MUF化合物材料,而况仍是从日本订购了MUF所需要的有关开采,看起来要鼓吹到下一阶段,以终了更先进的封装工艺,并擢升分娩服从。
讯息东说念主士暗示,三星计算在其最新的HBM芯片上同期使用NCF和MUF材料。
但三星并未承认,该公司暗示,其里面开发的NCF手艺是HBM居品的“最公根由决议”,将用于其新的HBM3E芯片。“咱们正在按计算开展HBM3E居品业务”,三星暗示。
如果三星使用MUF为果然话,则凸显了该公司在AI芯片竞赛中濒临的越来越大的压力。
据悉,另一家内存大厂好意思光也盘算推算使用MUF材料。
03
发展HBM4,依然要过台积电这一关
HBM3E的下一个版块,便是HBM4,三星正在加速研发脚步,争取减弱与SK海力士的差距。
不久前,三星公布了HBM阶梯图,展望2026年的HBM出货量是2023年的13.8倍,该公司暗示,到2028年,HBM内存的年产量将进一步飞腾至2023年的23.1倍。
在代号为“Snowbolt”的第六代HBM芯片HBM4方面,三星计算将缓冲芯片愚弄于堆叠内存的底层以擢升服从。除此以外,还莫得更多对于三星HBM4的手艺细节流出。
SK海力士方面,在推论HBM3E分娩才智的同期,该公司还与台积电签署了见原备忘录(MOU),两边就下一代HBM居品分娩和加强整合HBM与逻辑层的先进封装手艺密切互助,以开发出新一代的HBM4居品。
固然距离HBM4投产还有两年的时分,SK海力士仍是在加速鼓吹第七代HBM居品(HBM4E)的开发责任了,据etnews报说念,该公司的HBM先进手艺团队细致东说念主Kim Kwi-wook在近日举行的“IMW 2024”活动上共享了下一代HBM的发展观念,暗示刻下HBM手艺已达到新的水平,同期,代际更替周期也在裁汰,从HBM3E驱动,由以往的两年形成了一年。
面对竞争,SK海力士的HBM样貌正在提速,展望首批12层堆叠的HBM4最快会在2025下半年到来,到2026年还会有16层堆叠的居品,会向愈加定制化的观念发展,而HBM4E最早会在2026年投产。这是SK海力士初次说起HBM4E,阐明了新表率的存在,据悉,其带宽将是上一代居品的1.4倍。
5月中旬,在2024年欧洲手艺探讨会上,台积电暗示,将使用其12FFC+(12nm级)和N5(5nm级)制程工艺制造HBM4芯片。
台积电联想与手艺平台高等总监暗示:“咱们正在与主要的HBM内存互助伙伴(好意思光、三星、SK海力士)互助,开发HBM4全栈集成的先进制程,N5制程不错使HBM4以更低的功耗提供更多的逻辑功能。”
N5制程允许将更多的逻辑功能封装到HBM4中,并终了终点邃密的互连间距,这对于逻辑芯片上的成功键合至关进军,不错擢升AI和HPC处理器的内存性能。
相对于N5,台积电的12FFC+工艺(源自该公司的16nm FinFET 手艺)愈加经济,制造的基础芯片能构建12层和16层的HBM4内存堆栈,分别提供48GB和64GB的容量。
台积电还在优化封装手艺,终点是CoWoS-L和CoWoS-R,以扶直HBM4集成。这些先进的封装手艺有助于拼装多达12层的HBM4内存堆栈。新的转接板能确保2000多个互连的高效路由,同期保捏信号齐备性。据台积电先容,到面前为止,实验性HBM4内存在14mA时的数据传输速度已达到6 GT/s。
台积电还在与Cadence、Synopsys和Ansys等EDA公司互助,对HBM4通说念信号齐备性、IR/EM和热精度进行认证。
04
三星寻求与台积电互助
由于英伟达在AI干事器芯片商场处于霸主地位,而该公司的高性能GPU皆是由台积电代工分娩的,因此,在对HBM内存大厂的居品进行考证时,台积电演出着进军的变装。此时,固然是晶圆代工边界的竞争敌手,但要在HBM内存商场拓展出更多空间,在进行居品考证时,三星必须面对台积电。
本年4月,三星电子共同推行长庆桂显低调访台,传访问了台积电,讯息东说念主士显现,庆桂显此行的任务中,最主淌若扩张三星最新的HBM内存。
之前,台积电与SK海力士联手,构成名为“One Team”的计谋同盟,共同开发下一代HBM4内存,方针是通过网罗台积电与SK海力士在新一代AI半导体封装上的手艺上风,稳健两边在AI商场的地位。
庆桂显此行,对于三星HBM3E居品尽快通过英伟达考证有积极作用,同期,三星也但愿台积电粗略将其HBM内存推选给客户,以终了将三星居品整合进更多AI芯片和干事器系统。