美格智能
AI终端一体机。
一、把大模型跑在边缘端,2个核心:
大幅降低推理成本,提高隐私安全。
隐私性的本地化部署,这种AI边缘侧的本地化部署,美格智能算是“实质性”的模组东西,恰好手机AI明年也要大规模出来了,
【边缘侧】将会迎来产业趋势的实质性进展。
二、目前处于大模型训练推理早期,与云端大模型的“训练+推理”不冲突的,
大模型的数据,可以兵分两路,分2端去训练+推理,
1、核心的大块头数据,可以给到“云服务器端”的高端算力,用高算力去“训练+推理”
2、涉及到隐私的,可以给到“本地化边缘侧”,小型化去“推理”得出结果,应用于视、听领域。
甚至于可以运行【设计行业-工作效率类】的“文生图大模型Stable Diffusion”,那个国外两大AI出图神器之一。
*出处: 美格智能产品团队已经在SNM970模组上成功运行文生图大模型Stable Diffusion。
三、 AI边缘侧的芯片,会持续研发迭代,行业刚起来
和iPhone手机芯片一样,过去十年iPhone的CPU和GPU算力提升已经不止百倍。
AI边缘侧的芯片迭代,同样值得期待。(美股的高通近期已经开始上涨,含此预期)
同样都是模组产品(面向终端客户),
核心的是,谁能绑定“高端”的AI边缘芯片,最好具有“稳定、广泛的兼容性”特点
【存储】万润科技绑定长江存储,
【手机】小米绑定高通,
【汽车】赛力斯绑定华为,
【HBM】香农芯创绑定SK海力士,
【光模块】中际旭创绑定英伟达、微软,
【边缘计算】美格智能绑定高通,
高通挖了苹果的顶配芯片团队(也导致苹果最近几年芯片进展大不如前,可参考极客湾的实测),
搞出了给meta的quest 3的芯片,第一次达到性能可用级别。
同时也搞出了基于ARM架构的【AI PC芯片】。
边缘AI芯片(智能终端)的行业爆发早期,
硬件应用侧的美格智能,值得重视。
走向边缘智能,美格智能携手阿加犀成功在高算力AI模组上运行一系列大语言模型
https://mp.weixin.qq.com/s/NPToP5klhry-kQMkuUBZiA