智能设备的最好的载体就是手机端。那么就需要将大模型做小,将参数缩小到可以装到手机里,然后让手机成为入口。现在市场认知还停留在音响,音响固然也没有错,但是手机端的想象空间才是星辰大海。如果大模型+手机能成为主要模式,那么之后的智能化落地,就需要用到边缘计算,也就是手机端的算力模组!为了推动大模型在手机端的运行,算力模组就成为推动AI应用落地的动力之源,成为每个手机必不可少的一部分,想象空间巨大!这是一篇美格智能自己写的文章,非常值得老师们研究下。有相关评论表示,高通发布的Stable Diffusion是由第二代骁龙8移动平台支持的业内首个无需云连接、运行于Android手机上的大型语言生成式AI模型。其最大的特点是,AI大模型运行无需上云,依靠手机等终端强大的算力,结合模型优化等技术,在各类高算力终端上进行AI大模型的运行。除手机等消费类产品之外,随着技术的进度,搭载了集成AI处理器的SoC芯片、以智能模组或者算力模组作为主要算力来源的PC、XR、VR、机器人、互动大屏等各类IoT终端,也都可能成为各类AI模型落地的支撑。AI,将既在云端,也在边缘侧和终端侧。5G+AI,是IoT下半场的智能化底座,而大模型的出现将成为加速器。