【暴增】市场规模将暴增至52亿美元谁能拥有HBM的未来?日本要求获芯片补贴公司防止技术泄露;印度官员呼吁日本半导体公司赴印投资
时间: 2023-12-01 22:32:53 | 作者: 新闻动态
集微网报道,11月13日,英伟达正式对外发布了新一代人工智能(AI)GPU芯片H200,堪称“世界最强AI芯”。需要我们来关注的是,其GPU芯片没有升级,核心数、频率也没有变化,主要的升级便是首次搭载了HBM3E高带宽内存。基于HBM3E,H200带宽可达4.8TB/s(比H100的3.35TB/s提升43%),并且内存容量从80GB提升至141GB,这使得H200成为高性能计算(HPC)和人工智能等领域的理想选择。
HBM3E是市场上最先进的高带宽内存(HBM)产品。目前,伴随着HPC和AI市场的火热,在数据量“飞起”的年代下,HBM备受瞩目。HBM发挥着什么及其重要的作用?为何吸引了全球存储巨头的竞逐?
HBM即为高带宽内存(High Bandwidth Memory),是三星、AMD和SK海力士于2013年发起的一种基于3D堆栈工艺的高性能DRAM,通过增加带宽,扩展内存容量,让更大的模型,更多的参数留在离核心计算更近的地方,由此减少内存和存储解决方案带来的延迟、降低功耗。从技术角度看,HBM使DRAM从传统2D转变为立体3D,充分的利用空间、缩小面积,契合半导体行业小型化、集成化的发展趋势。
OpenAI在2022年11月发布ChatGPT后,AI大浪潮时代开启,各大厂商相继开发并推出大模型产品,大模型的训练和部署需要大量的AI算力芯片提供支撑,同样大量的数据集传输和存储也对存力提出了更高的要求。
根据美光测算,AI服务器中DRAM数量是传统服务器的8倍,NAND是传统服务器的3倍。这轮AI大浪潮实质上推动了存储芯片的需求量。此外,大模型庞大的数据集也需要更大容量的NAND存储数据,GPT-3的参数量就已达到1750亿个,而最新的GPT-4模型据说有1.76万亿参数量。
若要支撑如此庞大的数据处理和传输,就要打破“内存墙”——数据交换通路窄,以及“功耗墙”——庞大数据传输引发的高能耗。
而HBM的高带宽相当于把通道拓宽,让数据能够迅速流通。因此面对AI大模型千亿、万亿级别的参数,服务器中负责计算的GPU几乎必须搭载HBM。英伟达创始人黄仁勋也曾表示,计算性能扩展的最大弱点是内存带宽,而HBM的应用打破了内存带宽及功耗瓶颈。
以英伟达在2023年GTC大会上发布的AI服务器NVIDIA DGX H100为例,一台服务器里配置8颗H100 GPU,每一颗GPU需要80GB显存,采用HBM2e或HBM3(16GB)的方案,则一颗GPU需要5颗HBM。预计随各大厂商相继推出大模型平台和市场对AI服务器的需求与之迅速增加,HBM将成为存储市场长期增长驱动力。
据市场调查机构Gartner预测,2022到2027年,全球HBM市场规模将从11亿美元增至52亿美元,复合年均增长率(CAGR)为36.3%。同期,HBM容量需求将从1.23亿GB增加到9.72亿GB,复合年均增长率为51.3%。
HBM市场目前被SK海力士、三星及美光三大DRAM原厂牢牢占据,集邦咨询(TrendForce)调查显示,2022年三大原厂HBM市占率分别为SK海力士50%、三星约40%、美光约10%。
SK海力士在HBM3生产方面处于领头羊,是英伟达服务器GPU的主要供应商。另一方面,三星则专注于满足其他云服务提供商(CSP)的订单,如英特尔的Aurora Project及AMD的MI300 AI超级芯片。由于三星从CSP获得的订单数量持续不断的增加,TrendForce预计今年三星与SK海力士之间的市场占有率差距将大幅缩小。
TrendForce预计三星与SK海力士两家公司将在2023年至2024年之间的某个时候在HBM市场上占据相似的份额,总共占据95%左右。
目前,HBM市场以HBM2e为主流,但预计HBM3将慢慢的变成为新标准。三大存储厂商SK海力士、三星和美光正加速HBM产品开发。
SK海力士是目前全球唯一量产新一代HBM3产品的供应商,也是全面布局多代HBM的厂商。从2014年SK海力士与AMD联合开发第一代硅通孔(TSV)HBM产品开始,SK海力士陆续于2018发布第二代HBM产品HBM2、2020年发布第三代产品HBM2e、2021年开发出第四代HBM产品HBM3,并于2022年6月开始量产。
今年4月,SK海力士进一步宣布,已经全球率先研发出12层堆叠的HBM3内存,单颗容量可达24GB。8月,SK海力士宣布以唯一量产HBM3的经验为基础,成功开发出全球最高性能的扩展版HBM3E,并将从2024年上半年开始量产。
三星电子方面,为了扩大HBM产能,三星已收购三星显示(Samsung Display)天安厂区内部分建筑及设备,用于HBM生产。三星电子计划在天安厂建立一条新封装线,用于大规模生产HBM,投资额预计在7000亿-1万亿韩元之间,未来将生产HBM3、HBM3E等新一代产品。
据悉,三星正在投入8层、12层HBM3量产。在最新技术方面,三星10月20日在硅谷举行的内存技术日活动上展示了其超高性能HBM3E DRAM Shinebolt。Shinebolt的容量较前代产品增加了1.5倍,每秒可处理超过1.2TB的数据。三星目前正在向客户供应HBM3E样品,预计将于明年下半年开始量产。
另外,三星还计划在2024年第一季开始供应12层HBM3E样品,并在2025年实现HBM4的量产。
美光方面,其2020年表示开始提供HBM2产品,用于高性能显卡、服务器处理器等产品。此外,美光也通过开发第五代HBM3 Gen2内存加入了先进的技术竞争,并已开始客户样品验证,该产品拥有超过1.2TB/s的带宽和超过9.2Gbps的引脚速度,比目前发布的HBM3提高了50%。
业界预计,2024年HBM将爆发全面的“三国之战”。预计这三家公司将在英伟达即将推出的H200和B100 AI半导体所需的HBM3E供应方面展开激烈竞争。
HBM突破了内存容量与带宽瓶颈,技术难点最重要的包含硅通孔(TSV)工艺、电镀、测试、键合等方面。TSV工艺是HBM的核心工艺,其难度较大,需要高精度的设备和技术。电镀、测试、键合等环节也需要高精度的设备和技术,以保证产品的稳定性和可靠性。
以往厂商通过专注于高需求产品来获得成本竞争力,从而增强业务竞争力,这样的做法也有望改变。由于HBM属于高品质的产品,其良率不易提高,因此保证质量对于扩大市场供应至关重要。随着HBM在AI时代的重要性日益增加,预计DRAM行业将转向以质量为中心的“赢者通吃”。
国内现在的状况来看,尽管国内存储产业链位置较边缘,但相关概念股也因此受益,国内厂商正积极布局高端存储产品,以适应市场需求。
整体来看,HBM产业链主要由IP、上游材料、晶粒设计制造、晶片制造、封装与测试等五大环节组成。由于国际大厂均采用IDM模式,芯片的设计、制造和封测都由大厂一手包办,国内厂商主要处于上游材料供应等环节,相关企业也被多次追问HBM领域业务布局。
上游材料企业联瑞新材表示,HBM是提高存储芯片间互通能力的重要解决方案。这种方案会带来堆叠层数提升、散热需求大的技术难题,同时对封装材料要求慢慢的升高,对粉体颗粒及性能要求也慢慢变得高。对添加的超细粉体材料,要使用到TOPCUT20um以下的Lowα球硅和Lowα球铝产品。公司部分封装材料客户是全球有名的公司,公司已配套并批量供应了Lowα球硅和Lowα球铝产品。
专注于封装材料的华海诚科11月20日表示,目前颗粒状环氧塑封料尚处于验证阶段,没形成批量销售,尚未用于HBM封装。
制造材料供应商雅克科技是SK海力士的核心供应商,其近期接受投资者调研时称,目前公司有三十多种前驱体产品,基本上可以覆盖当前国内半导体厂商的需求。
与此同时,国内相关芯片设计也有所布局与进展。国芯科技表示,公司目前已与合作伙伴一起正在基于先进工艺开展流片验证相关Chiplet芯片高性能互联IP技术工作,和上下游合作厂家积极开展包括HBM技术在内的高端芯片封装合作。
概伦电子也表示,公司在存储器、模拟和混合信号等定制类电路的芯片设计领域,掌握了部分具备国际领先能力的核心技术,获得了众多全球领先半导体企业包括存储器头部企业的量产应用,据了解,公司的EDA工具可被部分客户用于HBM相关的设计制造环节。
虽然由于HBM成本高昂,暂时只能在服务器等高端领域应用,但无人驾驶、虚拟现实、增强现实和边缘人工智能等领域的发展将促使HBM技术获得广泛应用,未来市场发展的潜力广阔。相关初创公司与概念股公司,唯拥有自主研发能力和技术优势,方能更具竞争力,在HBM发展的浪潮中占据一席之地。
集微网消息,日本政府将要求接受半导体和其他关键产品相关补贴的公司采取一定的措施,防止技术泄露到其他国家。
日本经济产业省在半导体和数字产业会议上公布了这些计划。日本正在加大直接参与力度,以确保对经济安全至关重要的技术留在境内。
相关公司将被要求采取一定的措施,通过限制可以访问关键技术信息的人数并要求员工做出保密承诺,防止技术泄露给业务合作伙伴和外国。
日本还制定了加强超级计算机等日本计算机基础设施的计划,以促进生成式人工智能(AI)的发展,政府目标是到2027财年将国家计算资源增加到目前水平的20至30倍。
集微网消息,印度西部古吉拉特邦部长Bhupendrabhai Patel呼吁日本半导体公司在印度投资,他表示,印度政府已经向半导体制造商提供了激发鼓励措施,古吉拉特邦政府还提供了额外的激励措施。
据悉,美国领先的半导体公司美光科技已经决定在该邦投资。Patel称莫迪希望“慢慢的变多的日本公司能够从投资古吉拉特邦中获益”。
莫迪的“印度制造”推动了该国制造业的发展,同时追求到2047年成为发达国家。印度电脑芯片市场预计将增长到800多亿美元,古吉拉特邦有望成为该国半导体产业的中心。Patel表示,古吉拉特邦政府一直在“创造必要的基础设施”,以吸引半导体公司。
另外,Patel称利用可再次生产的能源生产“绿色氢”也是莫迪的政策重点之一,他呼吁日本工程师来古吉拉特邦进行该领域的技术合作。
除了2047年的目标外,印度还制定了到2070年实现温室气体净零排放的目标。为了以可持续的方式实现这两个目标,Patel呼吁日本汽车制造商加快电动汽车的生产。
集微网消息,韩国统计厅11月30日公布的最新多个方面数据显示,韩国10月工业生产指数111.1,环比下降1.6%,降幅创下3年6个月来之最;零售销售和设备投资环比分减0.8%和3.3%,这是三大产业指标时隔3个月负增长。
10月韩国半导体芯片生产环比减少11.4%,出货量减少29%,拖累韩国制造业生产指数下滑3.5%,创今年以来最大跌幅。按产品类别看,10月机械产量下滑8.3%,电子元件产量则大增10.4%。
尽管韩国10月工业生产指数同比增长1.1%,但是低于9月的2.9%,也低于经济学家此前5.2%的预期。
2023年第三季度,韩国GDP环比增长0.6%,高于经济学家预测,这主要受出口增长带动。除了工业以外,10月韩国服务业生产指数也下滑0.9%,为5个月来首次下滑。
集微网消息,英飞凌2023财年报告已公布,在截至9月30日的财年,该公司营收为163.1亿欧元,比上年增长15%。其中英飞凌汽车部门收入达82.4亿欧元,同比增长26.5%。新能源市场强劲的需求,以及一直增长的MCU市场占有率,为该公司营收做出贡献。
英飞凌汽车部门营收占公司总收入的50.5%,而2022财年这一比例为45.8%。英飞凌表示,预计2024财年汽车业务的增幅将略高于10%;公司营业利润率保持在25%至28%之间,与往年类似。
根据研究公司LMC Automotive的预测,2024年全世界汽车市场将放缓,增长率仅为1~2%。不过英飞凌预计,随着电动汽车、无人驾驶、高级辅助驾驶(ADAS)和汽车电子应用的增长,车用半导体的市场规模将继续保持显著增长。目前该公司的汽车半导体涵盖300多个产品系列。
截至2023年9月末,英飞凌积压订单价值已达290亿欧元,其中汽车领域的订单最多,大部分为电源模块和MCU。英飞凌预计,2024年全球电动汽车市场规模将达到1500万辆,如果加上插电式混合动力车,预计将达到2000万辆。
中国一直是英飞凌最重要的市场之一,约占汽车业务收入的四分之一。英飞凌的产品覆盖中高端车型,为每辆车提供的半导体类产品价值高达500~1300美元。虽然一些中国制造商已转向本地制造商,但英飞凌预计将继续与多个汽车制造商合作。
此外,电动汽车用碳化硅(SiC)元件,也为英飞凌贡献了5亿欧元的收入,该公司预计2024财年碳化硅有关产品营收将增长50%。
集微网消息,新思科技(Synopsys)预测2024财年第一财季(自然季度11月-明年1月)营收将高于预期,人工智能(AI)的采用提振了对该公司芯片设计软件的需求。
新思科技预计2024财年第一财季营收在16.3亿美元至16.6亿美元之间,高于分析师平均预期的16亿美元;第一财季调整后每股盈利在3.40美元至3.45美元之间。根据LSEG数据,分析师此前预计每股3.05美元。新思科技预计2024财年全年收入在65.7亿美元至66.3亿美元之间。
新思科技公布2023财年第四财季(截至10月31日)营收升至16亿美元,同比增长25%,超出分析师预期的15.9亿美元。还报告了超出预期的季度利润4.91亿美元,同比增长65%。
对更快、更高效的AI兼容芯片的需求一直增长,提高了Synopsys和Cadence Design System等EDA公司的市场地位,这一些企业为设计芯片提供软件和IP。
新思科技总裁兼首席运营官Sassine Ghazi谈到AI芯片的繁荣时表示:“你需要一种非常特殊的芯片来为AI训练提供支持。这些都是巨大而复杂的芯片。对我们来说,这是一个绝佳的机会。”Sassine Ghazi将于明年接替创始人Aart de Geus担任公司CEO。
微软和Alphabet等公司定制芯片设计工作的兴起也刺激了需求。新思科技的软件工具有助于协助英特尔等芯片制造商进行半导体设计过程,以及梅赛德斯-奔驰等汽车制造商开发发动机电子控制单元。
新思科技今年11月早一点的时候表示,已与微软合作创建自己的芯片设计助手,这将有利于在早期阶段修复Bug和错误。Sassine Ghazi表示,新思科技AI服务的使用增加有助于其部分合同的价值在续约时提高20%。
长安汽车自主新能源品牌11月销量环比下降11.85%,今年累销达41.47万辆
因涉嫌内幕交易、操纵证券市场罪,卓翼科技控制股权的人、实控人夏传武被批准逮捕
上一篇:今日半导体芯片继续上涨加上今日现已连涨4个交易日了这周芯片的体现是十分强的 下一篇:北方华创(002371):推中心技能人员股权鼓励方案 着眼公司久远开展