从2013到2019年AI算力实现了30万倍的提升

 

证通社曾在《【行业前瞻】全球算力大战升级 中国万亿数据中心产业蓄势待发（产业链解析）》一文中提出，算力即国力。在提升算力方面，通常能够想到的方式有通过工艺进步、Chiplet封装以及架构优化来提升芯片性能，以及通过“东数西算”扩建数据中心的方式来扩大计算节点的规模。但是硬件还是受到摩尔定律约束，迫近天花板，因此还有利用CPO（光电共封装）这样的新技术降低功耗，降本增效。

理论上，一种名为“存内计算”的新技术或能成为“终极奇兵”。

 

一、现有架构算力提升存在巨大瓶颈

现代计算机的基本结构是由美籍匈牙利科学家冯· 诺依于1946年提出的。

冯-诺依曼架构的计算机有着两个无法避免的问题：存储墙问题和功耗墙问题。这两大问题并称为冯-诺依曼瓶颈。

所谓存储墙是指计算单元与存储单元速度的不匹配。在过去二十年，处理器性能以每年大约55%的速度提升，内存性能的提升速度每年只有10%左右。结果长期下来，不均衡的发展速度造成了当前的存储速度严重滞后于处理器的计算速度。另外，在异构架构下，存储墙导致了大量数据在计算单元和存储单元间频繁移动，使60-90%的能耗用于数据搬运而非数据计算，这也是导致了能耗墙的问题主要原因。

总之，随着AI时代的到来，传统的冯·诺依曼架构带来了巨大的延时和能耗，因此需要对计算架构进行革命性的改变。存内计算（In-memory Computing）范式即是其中一种直截了当的革新方法。

冯·诺依曼架构下存在的存储瓶颈

在整机层面，提升算力的一个主要的方向是借助对服务器系统架构的优化，弱化或突破“存储墙”，打破数据读取瓶颈，从而提升单机算力。为了存储墙的问题，一个直接的想法就是让数据靠近计算单元，而且是物理临近。因此，出现了“存内计算”（也称之为“存算一体”），即在内存中加入运算回路，无需将数据传输到处理器中处理，只需将结果传送到处理器即可，显著减少数据在存储器和计算单元之间移动所产生延迟和能耗，提高内存计算系统的性能。

业内专家评价，存算一体是颠覆性的技术，天然拥有高性能、高带宽和高能效的优势，可以从底层架构上解决后摩尔定律时代芯片的性能和能耗问题。因此，存算一体架构可以把算力做的更大，而且成本更低（成本能够相应的降低50%～70%），功耗更低。

 

二、学界产业界争相布局存内计算

据 Gartner 预测，全球内存计算市场将以每年22%的速度持续增长。近年来，随着新兴非易失存储器的发展，国内开始出现做存算一体大算力的公司，同时不断有新玩家涌入。

科研院所方面，加州大学圣芭芭拉分校谢源教授团队致力于在新型存储器件ReRAM（阻变存储）里面实现计算的功能研究。清华大学刘勇攀教授团队和汪玉教授团队均参与了该架构的研发，目前已实现在150nm工艺下流片，在阻变存储阵列里实现了计算存储一体化的神经网络，功耗降低20倍，速度提高50倍。2022年7月中科院微电子所团队在40nm 256Kb RRAM 芯片上实现图神经网络小样本学习的功能验证，在存内计算领域取得进展。

在产业应用方面，英特尔、博世、美光、Lam Research、应用材料、微软、亚马逊、软银都投资了NOR闪存存算一体芯片。阿里达摩院于2021年11月成功研发存算一体芯片。为全球首款基于DRAM 的 3D 键合堆叠存算一体芯片。它可突破冯・诺依曼架构的性能瓶颈，在特定AI 场景中，该芯片性能提升10倍以上，效能比提升高达300 倍。2022 年 6 月，中国移动携手 12 家产业合作伙伴共同发布了《算力网络技术白皮书》，明确存内计算（存算一体）作为核心技术体系与技术路线之一。

总体而言，存内计算有望打破运行了70年的冯诺依曼架构，将成为AI时代主流的计算架构。目前国内外在存算一体方面都处于起步阶段，存算一体正处于学术界向工业界迁移的关键时期，所以这可能是发展国产芯片的另一大重要方向。

 

三、新型存储代表着存算一体内技术的未来

存内计算的重点在于新型存储器。

目前能做存算一体的存储器包括Flash、SRAM、DRAM、RRAM（忆阻器）、MRAM（磁性存储器）等，不同技术路线各有优劣势，比如Flash具有密度比较高的优点，DRAM成本比较低，MRAM、RRAM等新型存储器除了存储密度较高之外，功耗也比较低等。未来随着人工智能对高性能、低功耗处理需求的不断增强，存算一体技术的开发和应用落地进程将会加速。

存储芯片是国内集成电路市场份额占比最大的产品类别，但当前整个行业正处于低谷，由于市场需求普遍疲软，对各类存储器企业都是一个不小的考验。然而近期不少市场人士预判，存储行业至暗时刻已经过去。目前市场普遍预计芯片企业业绩将于年中触底，随着企业逐渐清理积压的产品库存，下半年行业有望开启复苏周期。台积电预计，由于汽车芯片持续强劲，以及服务器芯片需求有望复苏，全年销售额总体将实现增长。

根据WSTS、中商产业研究数据，预计2022年存储芯片的销售额为1555亿美元（约10550亿人民币），同比增长1.1%。根据Yole数据，2021-2027年全球存储芯片行业市场规模的复合年增长率为8%，并有望在2027年增长到2600亿美元（约17640亿人民币）以上。 目前全球储存芯片市场被海外企业垄断，国内企业有望借助国家对算力扶持，下游需求旺盛的机遇，在存内计算这样的新领域奋起直追。A股德明利（开始布局嵌入式存储业务）、同有科技（近年来接连推出自主可控系列存储产品）、东芯股份（正研发存算一体存储器）等企业有望脱颖而出。