2022年以来,AIGC作为一项变革性的技术,正在逐步颠覆人类原有的工作、生活、创作及娱乐方式。以ChatGPT、Midjourney、Stable Diffusion、文心一言等为代表的各类生成式大模型,能在数秒之内完成包括搜索、绘画、创作、表格编辑、代码编写等各项任务,并且各项能力正在不断进化中。数据显示,目前至少已有上千个可用的生成式 AI 应用,这一切都表明,AIGC正迎来史无前例的爆发期。
拥有数十亿参数的众多生成式 AI 模型对计算架构及算力强度提出了极高的需求。之前的情况是,无论是优化参数的AI训练,还是执行模型的AI推理,都一直受限于大型复杂模型及端侧算力部署不足,而与云端绑定。
初步估计显示,生成式AI市场规模潜力巨大,将广泛覆盖生态链上的各个参与方。这一巨大市场机遇,势必驱动不同类型的计算架构及算力基础来源同时演进,从而满足大规模生成式 AI 日益增长的算力需求。
全球头部玩家的近期动作也表明,算力建设和算力竞争的趋势才刚刚开始,所有人都在起跑。高通于不久前宣布完成了全球首个运行在Android手机上的Stable Diffusion终端侧演示,这是首次由第二代骁龙8移动平台支持的大型语言生成式AI模型在端侧运行的实例,充分说明了随着端侧算力加强及模型优化技术结合,各类高算力终端支持大模型运行只是时间问题。
其后,高通官方关于转型边缘计算公司的表态,以及大力推动混合式AI的举措,都表明边缘计算+终端侧AI的技术和产品路径正在迅速变为现实。
在云计算服务器领域,美格智能推出的高算力AI模组基于强算力、低功耗芯片及美格智能特有的定制化解决方案,完美应用于领先型的arm架构阵列服务器集群,在完成同等计算任务下,性耗提升2倍以上。
在智能机器人领域,高算力AI模组能轻松匹配智能机器人及下一代具身智能机器人在算力方面的高要求,同时配备丰富的外围接口,以AI模组的形式将语音识别、机器视觉、导航、定位、避障和多模态技术通过各种传感器植入到终端侧,真正实现机器人的AI觉醒。
在工业视觉、AI零售等领域,美格智能推出的标准化AI套件,在AI加速方面,可支持变革性INT4 Al精度格式,在持续AI推理方面实现与前代相比60%的能效提升。同时可对多路摄像头进行视频结构化分析,快捷实现人、事、物等智能感知、数据分析、安全管理等性能,快速实现对众多传统产业的AI嵌入。
作为在行业内最早布局算力模组产品的企业,美格智能高算力AI模组产品实现了从1.2T到近48T产品全覆盖,充分满足不同行业算力需求。研发团队在大算力平台与不同行业算法对接、AI运行低功耗控制、5G+AI融合开发等领域有众多积累。
随着AI大模型首次在自研算力模组产品上成功运行,极大拓展了算力模组的能力边界,积累了大模型在端侧部署和应用的前瞻经验,将真正驱动生成式AI在端侧和边缘侧的大规模部署,也让边缘计算+终端侧AI的技术图景越来越清晰!
物联网连接数量在过去的十年间呈指数级增长的发展态势,曾经写在书上的“万物互联”已然成为现实。无处不在的连接为人类社会的数字化和智能化已经筑下了坚实基础,而当连接与算力融合的时候,亿万个IoT节点的算力汇聚,将构建最为庞大的算力网络,与云端算力互联互通,共同构建AIGC等跨时代技术的算力底座。