异动
登录注册
边缘计算才是AI最大的部署所在
大还是小
2023-12-09 13:14:03
2023年5月高通公司高级副总裁Alex Katouzian表示,高通正在从一家通信公司过渡到一家智能边缘计算公司。“随着连接设备和数据流量加速增长,叠加数据中心成本攀升,(我们)不可能将所有内容都发送到云端。”

 什么是边缘计算


如果说GH200架构是把几百个将军串联了起来,那么边缘侧的算力,就是无穷无尽,数以亿计的士兵阵列!

边缘算力,通常指部署在设备本地的算力或者离用户距离较近的数据中心中的算力,边缘算力相较于云端算力,拥有低成本、低时延、高隐私三大特性。

1)低成本:当前主流的边缘算力平台主要采用高通主导下的ARM架构,相比于英伟达的复杂架构,ARM架构在小算力时拥有极低的单位成本,是降低开发与用户成本的必然选择

2)低时延:边缘算力一般搭载在本地,无需将数据发送至云端并等待回传的时间,可以满足如自动驾驶,快速对话等对时延要求高的场景。

3)高隐私:边缘算力依靠设备本身搭载的算力或在用户自有服务器上的算力进行推理,可以实现数据不出用户管辖范围,对隐私的保护更好。

随着AI催化下算力需求加速走向多样化,单一的云端算力无法满足所有需求,算力正在走向泛化,走向“云边端”梯度分布的格局。

边缘计算减少了需要传输到云端的数据量,并允许实时数据处理。因此,它可以降低对带宽的需求,同时提高设备性能,大量生成式AI模型可以直接在终端设备上运行。

从数量上看,边缘侧如同毛细血管,随着 AI应用的增多,将提升算力的多样性;从功能上看,此前市场理解的物联网或者高通芯片模组多以通信功能为主,而计算能力局限于车载等场景,随着边缘计算爆发,其应用场景将大幅拓展;从成本侧看,高性价比的算力是AI发展的基石,边缘侧算力不可或缺。

无独有偶,今年以来,人工智能爆火,英特尔、英伟达一方面争夺AI服务器市场,另一方面,两大巨头都盯向了下一个科技热点——边缘计算。4450美元大市场

2023英特尔网络与边缘产业高层论坛上探讨了未来边缘计算的机遇。英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti提到,2030年全球边缘市场将达到4450亿美元的规模,企业需求的推动将会转化为经济发展的动能,因此,他认为边缘的发展将成为下一个10年的巨大发展机遇,“边缘已经是现在人工智能最大的部署所在”。

同时英伟达不断推荐它的边缘计算平台Jetson,细查之下,这里或承载着英伟达的另一个万亿市值战略。

英伟达显然不满足定位于GPU芯片设计厂商,外界推测,黄仁勋对英伟达的定位为计算平台公司,其商业愿景是只要与AI加速有关领域都会用英伟达的硬件和软件。要完成AI平台类公司的愿景,边缘计算领域是必争之地,英伟达已推出Jetson、Isaac AMR等平台占领边缘AI。

中移智库的研究报告显示,行业多样化需求正在牵引新形态云快速成长,其中,边缘云正成为新的增长极。车联网、工业互联网等产生大量低时延存算需求,引发边缘云需求快速增长。据德勤报告预计,我国边缘云市场规模将从2022年的622亿元增长到2025年的1988亿元,复合增长率达47.5%。与此同时,智能云快速普及推广。国内外领先云服务企业正积极推动云智融合发展,普遍基于云提供AI平台、模型、应用等端到端产品服务。

亚马逊、微软等两大云端大厂也积极拓展边缘计算市场。微软和服务器厂商合作布局各类边缘5G整合AI的方案,亚马逊则采用自研Outposts混合云整体解决方案模式,以寻求从AWS核心端到企业边缘端的一致性的电信云端基础设施与服务。

OpenAI也踩下用户增长的“刹车”。建设“中心+边缘”的梯度算力网络,以解决算力不足的问题

未来,物联网模组将承载大量边缘算力,为全世界开发者带来易用,高性价比的终端计算能力,赋能万物AI 互联!

边缘计算将成为未来算力体系中的重要一环。


作者利益披露:转载,不作为证券推荐或投资建议,旨在提供更多信息,作者不保证其内容准确性。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
网达软件
S
寒武纪
S
浪潮信息
S
中科曙光
S
*ST龙宇
工分
3.85
转发
收藏
投诉
复制链接
分享到微信
有用 8
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(2)
只看楼主
热度排序
最新发布
最新互动
  • TimeNeveRDies
    为国接盘的站岗小能手
    只看TA
    2023-12-09 14:24
    很早以前的观点了 市场还没轮动到这个细分 但是边缘AI 一定是未来AI饼最大的一个方向
    1
    0
    打赏
    回复
    投诉
  • 1
前往