边缘算力是未来算力体系的重要一环。

当前，无论是需要超强硬件支撑的AI迭代与训练，还是运行要求相对较低，需求相对分散的AI推理，都放在超算中心内进行。该行认为，在AI大爆发周期内，迭代和训练需要的整体算力将会呈指数级增长，增速将会超过单芯片算力增长速度。同时，单个AI超算规模将会受到功耗、土地、散热等因素制约。因此，未来的AI运算将呈现出训练与迭代在云端，推理与内容生产梯度分布(云侧+雾侧+边缘侧)的格局变化。此外，随着AIGC内容愈发丰富，从简单的文字发展到视频、虚拟场景，如果采用云生成然后发送到端的形式，将会产生较多的网络带宽成本和一定程度的时延，进而影响模型的商业化进程与用户使用体验，边缘算力有助于作为补充手段改善这一情形。

智能模组是承载边缘算力的优秀形式。

智能模组指的是融入了算力或通用处理芯片的通讯模组。当前已经应用于车机、消费等多个领域。当前主流的智能模组主要采用高通平台。因此此次高通在终端部署并推理AI模型的成功尝试，对于模组走向AIGC时代具有重大意义。单个模组算力可能较小，但智能模组具备灵活性与定制化的产品特性，结合高通AI增效工具包与专用硬件，未来智能模组有望走向依据模型定制算力平台，与使用场景深度绑定的模式，彻底打开行业应用场景与想象空间。

边缘人工智能有什么好处？

边缘计算 AI 具有一系列优势。现在，无论这些是什么，它们都倾向于更好的流程和客户体验。

1.数据的实时处理

AI边缘计算的最大好处是该技术为物联网设备和传感器所在的边缘带来了高性能计算能力。

人工智能边缘计算技术可以直接在现场设备上添加人工智能用例。最常见的AI边缘计算示例可以从软件如何在自动 AI边缘计算应用程序（如自动驾驶汽车）中借助深度学习算法处理数据和机器学习中看到。

当结合到自动驾驶汽车中时，该技术可以在几毫秒内处理数据，实时防止事故发生。

2.更好的隐私

在边缘人工智能的情况下，数据处理活动在边缘计算机的本地执行。正因为如此，更少的数据被发送到云端，从而降低了数据处理不当或被盗用的风险。

现在，由于数据是在设备附近收集和处理的，因此传输更少，从而提高了数据安全性。

3. 降低互联网带宽

由于边缘计算人工智能在本地进行数据处理，因此企业可以在互联网带宽上节省大量资金，因为通过互联网传输的数据更少。

如果您使用 Amazon AWS AI 服务来满足您的业务需求，您就会知道在云中执行 AI 流程的成本有多大。借助 AI边缘计算，可以将云保留为仅用于分析所需的后处理数据的存储库。

4.耗电量少

使用边缘人工智能解决方案，因为数据是在本地处理的，企业可以节省大量能源成本，因为他们不必保持与云的连接以在边缘平台和云之间来回传输数据。此外，大多数边缘计算设备都具有功耗和效率特性。

这里需要考虑的重要一点是，由于大多数边缘应用程序部署在远程环境中，边缘计算机有必要平衡性能和功率。

5. 响应速度更快

边缘人工智能技术倾向于在本地处理数据，与设备收集数据、将数据发送到云端进行处理并等待发回的云计算相比，它的响应速度要快得多。

所有这些都发生在毫秒的处理时间内。这导致边缘人工智能解决方案采取加速行动并做出更快的决策。这导致需要即时反馈的应用程序，如智能自动化、自动驾驶汽车和机器人技术。