异动
登录注册
AI算力又不够了
op26710
2023-04-06 00:15:51

【海通计算机】AI算力又不够了

2023年4月5日,OpenAI暂停ChatGPT Plus销售, 后续开放时间未知,停售主要归因于算力需求量超载。
 
算力需求测算:
我们在2023年2月14日的外发报告《OpenAI算力需求测算》中对ChatGPT年GPU/CPU需求空间进行测算,预计运营阶段,ChatGPT年GPU/CPU需求空间分别在7000万美元及778万美元。该测算尚未包含GPT-4模型迭代、日访问量持续上升以及OpenAI引入plug-in插件策略、嵌入多个终端等因素,在上述因素假设下,算力需求将再次成倍提升。
我们认为,海外龙头持续展开AIGC相关投资或将带动全球相关产业链共同景气,随着当前微软发布365 Copilot,Plugin插件策略引入,多模态应用落地速度较快,硬件端GPU/CPU的用量空间将得到进一步拓展,边缘其他应用亦为算力的重要支撑,半导体+AI生态逐步建立。
 
终端AI芯片国产替代确定性高,可借助Chiplet等技术共同构筑生态加速追赶。
2022年10月7日,美国BIS发布《出口管制条例》,限制向中国芯片制造商出口先进芯片和生产先进芯片的设备,根据环球时报微信公众号,英伟达A100型芯片已被美国商务部添加到出口管制名单中。在当前中美关系背景下,国内加速追赶,AI芯片国产替代确定性较高,此外,平衡芯片性能、良率、成本矛盾的技术包括Chiplet等也将共同构筑AI硬科技端生态,配套提升先进封装、IC载板、EDA/IP工具需求,加速AI芯片实现落地。
 
AI人工智能呼唤高性能HBM。
2021年HBM位元需求占整体DRAM市场仍未达1%,主要包含两大原因:首先是消费级应用因成本考量下几乎未采用HBM,其次是服务器市场中作为AI功能的建置低于1%,即服务器搭载相关AI运算卡的比重仍小于1%,且多数存储器仍使用GDDR5(x)、GDDR6来支持其算力。HBM有助于突破AI发展中受限的硬件频宽瓶颈,未来市场上将出现更多相关应用。随着最新迭代的规范获得批准,生态系统中的供应商正准备确保它可以实施,以便客户可以开始设计、测试和部署系统。随着英伟达使用HBM DRAM,数据中心或将迎来新一轮的性能革命。2021年10月,SK海力士开发完成全球首款HBM3,2022年6月量产HBM3 DRAM芯片,并供货英伟达,持续巩固其市场领先地位。
HBM及CXL交互合作共同促进高算力AI发展,实际应用于2023年将更有能见度。根据TrendForce集邦咨询,CXL导入将随着未来CPU内建CXL功能而普及化,而未来AI服务器的硬件建置,将能见到更多同时采用HBM及CXL的设计。其中HBM能分别增加CPU及加速器各自的频宽,加速数据处理速度;CXL则建立彼此间沟通的高速互联性,两者交互有助于扩展AI算力从而加速AI发展。
 
Chiplet共同构筑AI生态,EDA工具赋能IC设计效率优化。
平衡芯片性能、良率、成本矛盾的技术包括Chiplet等也将共同构筑AI硬科技端生态,加速AI芯片实现落地,我们认为其中,基础工具链的国产化将起到关键性作用。其中,EDA工具应用AI算法赋能高效芯片设计,实现“AI Inside+Outside”共同优化,AI芯片庞大算力意味着较大设计规模,对于芯片来说,规模越大,结构越复杂、精度越高,对于EDA软件的依赖程度也就越高。根据中科院半导体所援引半导体行业观察微信公众号,使用EDA工具,可以针对AI的分布式、矩阵式等运算特点,验证AI芯片的性能和收敛能力,推出对应的解决方案,以此来得到更快的结果,提高芯片设计效率。
 
高效IP核缩短SoC开发周期,灵活平衡计算性能及成本。
对于AI芯片厂商而言,使用成熟、稳定、质量可靠的IP核能够助力厂商通过快速复用积累的技术,有效提高芯片设计效率,提升设计公司交付能力,极大缩短SoC芯片的开发周期。以接口IP为例,接口IP硬化服务能为SoC腾出空间,为达到更高的AI性能提供了宝贵的片上SRAM和处理器组件;此外,在Chiplet加持下,IP模块经济性和复用性也有望得到大幅提升,不同功能的IP,如 CPU、存储器、模拟接口等,可灵活选择不同的工艺进行生产,从而灵活平衡计算性能与成本,实现功能模块的最优配置。
 
建议关注:
算力基础设施:商汤集团
算力芯片:寒武纪,海光信息,景嘉微
HBM:东芯股份,兆易创新,北京君正,普冉股份,国芯科技,澜起科技
散热驱动:峰岹科技
IP:芯原股份
边缘AI:瑞芯微,乐鑫科技
电源管理IC:晶丰明源
IC载板:胜宏科技,兴森科技
先进封装:通富微电
服务器:工业富联,神州数码,中科曙光,浪潮信息
 

作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
海光信息
工分
2.26
转发
收藏
投诉
复制链接
分享到微信
有用 1
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
暂无数据