异动
登录注册
AI人工智能呼换高算力HBM
牛牛犇
2023-04-05 17:14:18

基于对先进技术和解决方案开展的研究,存储巨头竞逐HBM。作为存储器市场的重要组成部分,DRAM技术不断地升级衍生。DRAM从2D向3D技术发展,其中HBM是主要代表产品。HBM(High Bandwidth Memory,高带宽内存)将多个DDR芯片堆叠后和GPU封装在一起,实现大容量、高位宽的DDR组合阵列。通过增加带宽,扩展内存容量,让更大的模型,更多的参数留在离核心计算更近的地方,从而减少内存和存储解决方案带来的延迟。

从技术角度看,HBM使DRAM从传统2D转变为立体3D,充分利用空间、缩小面积,契合半导体行业小型化、集成化的发展趋势。HBM突破了内存容量与带宽瓶颈,被视为新一代DRAM解决方案,业界认为这是DRAM通过存储器层次结构的多样化开辟一条新的道路,革命性提升DRAM的性能。

 HBM通过TSV实现芯片堆叠,实现体积节约及能耗降低。根据北京超弦存储器研究院微信公众号援引SK海力士,HBM主要通过TSV技术实现芯片堆叠,以增加吞吐量并克服单一封装内带宽的限制,而TSV在缓冲芯片上将数个DRAM芯片堆叠起来,并通过贯通所有芯片层的柱状通道传输信号、指令、电流。相较传统封装方式,该技术能够缩减30%体积,并降低50%能耗。

此外,凭借TSV方式,HBM大幅提高了容量和数据传输速率。与传统内存技术相比,HBM具有更高带宽、更多I/O数量、更低功耗、更小尺寸。随着存储数据量激增,市场对于HBM的需求将有望大幅提升。SK海力士的HBM2E以每个引脚3.6Gbps的处理速度,每秒能处理超过460GB的数据,包含1024个数据I/O。通过TSV技术垂直堆叠8个16GB芯片,其HBM2E单颗容量16GB。(下表为SK海力士HBM技术路线图)

 

 随着应用对AI的依赖度增加,需要HBM的加入来支援硬件。2021年HBM位元需求占整体DRAM市场仍未达1%,主要包含两大原因:首先是消费级应用因成本考量下几乎未采用HBM,其次是服务器市场中作为AI功能的建置低于1%,即服务器搭载相关AI运算卡的比重仍小于1%,且多数存储器仍使用GDDR5(x)、GDDR6来支持其算力。根据TrendForce集邦咨询,HBM有助于突破AI发展中受限的硬件频宽瓶颈,未来市场上将出现更多相关应用。随着最新迭代的规范获得批准,生态系统中的供应商正准备确保它可以实施,以便客户可以开始设计、测试和部署系统。

随着英伟达使用HBM DRAM,数据中心或将迎来新一轮的性能革命。2021年10月,SK海力士开发完成全球首款HBM3,2022年6月量产HBM3 DRAM芯片,并供货英伟达,持续巩固其市场领先地位。此外,英伟达已经将SK海力士的第四代HBM安装至H100,而H100已开始供应ChatGPT服务器所需。


此外,高速运算催生的新协定,CXL将更有效整合系统中的运算资源。CXL则是基于PCIe Gen5规格演变的协定,让CPU及其他加速器之间建立高速、低延迟的互联性,使其各自的存储器模拟成一个共享的空间,允许存储器资源共享,从而降低系统成本并获得更高的性能,因此有利于解决AI及HPC的工作负载。在允许CPU及其他硬件进行存储器资源整合下,利于降低各硬件间的通信延迟,也能提高AI及HPC发展需要的计算性能。
HBM及CXL交互合作共同促进高算力AI发展,实际应用于2023年将更有能见度。根据TrendForce集邦咨询,CXL导入将随着未来CPU内建CXL功能而普及化,而未来AI服务器的硬件建置,将能见到更多同时采用HBM及CXL的设计。其中HBM能分别增加CPU及加速器各自的频宽,加速数据处理速度;CXL则建立彼此间沟通的高速互联性,两者交互有助于扩展AI算力从而加速AI发展。

 

【海通科技】国芯科技:AI HBM核心标的,高性能高安全边缘计算芯片内测成功 随着应用对AI的依赖度增加,需要HBM的加入来支援硬件,HBM及CXL将交互合作共同促进高算力AI发展,看好产业链核心标的国芯科技。 #公司高性能高安全边缘计算芯片新产品内部测试成功。 3月20日,公司公告高性能高安全边缘计算芯片新产品内部测试成功,CCP1080T是公司研发的基于自主 64 位 PowerPC 架构 C*Core CPU 内核的新一代高性能高安全边缘计算芯片,拥有双核 C9800 高性能 64 位 PowerPC 架构的处理器,运行频率常规条件下可达 1.8Ghz,Dhrystone 性能达 3.1DMIPS/Mhz,产品可应用于服务器、安全网关等领域。 #AI呼唤高性能HBM需求下公司估值将受益提升。 英伟达已经将SK海力士的第四代HBM安装至H100。HBM有助于突破AI发展中受限的硬件频宽瓶颈,未来市场上将出现更多相关应用。我们认为,作为HBM核心标的,公司在AI快速发展需求下估值将受益提升。 #PowerPC及RISC-V指令架构自主可控为长期逻辑。 在 ARM 架构较高的授权壁垒以及中美摩擦背景下,国家重大需求和其他客户的自主可控需求增长,公司自主可控 PowerPC 和 RISC-V 指令架构具有开源的优势,生态建设逐步加速,有较大替代空间。

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
太极实业
S
寒武纪
S
深科技
S
新易盛
S
国芯科技
工分
6.30
转发
收藏
投诉
复制链接
分享到微信
有用 9
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(4)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-04-05 22:42
    国芯科技 和 HBM 有啥关系呀?它是计算芯片?


    1
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-05 23:02
    国芯科技:AI HBM核心标的,高性能高安全边缘计算芯片内测成功
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-04-05 19:41
    从技术角度看,HBM使DRAM从传统2D转变为立体3D,充分利用空间、缩小面积,契合半导体行业小型化、集成化的发展趋势。HBM突破了内存容量与带宽瓶颈,被视为新一代DRAM解决方案,业界认为这是DRAM通过存储器层次结构的多样化开辟一条新的道路,革命性提升DRAM的性能。
    0
    0
    打赏
    回复
    投诉
  • 1
前往