千亿蓝海，爆发在即！
原创 社长说 研讯社 2023-11-14
2023年7月6日，华为在WAIC 2023大会上联合四家合作伙伴共同发布昇腾AI大模型训推一体化解决方案，可以无缝切换大模型的训练和推理过程，支撑客户开箱即用，无需进行二次硬件适配。

大模型一体机是一种软硬件结合的设备，集成了AI芯片、AI平台软件及各类模型算法。通常使用AI服务器的大模型训练过程需要将数据传输到中央服务器或云端进行计算，然后再传回结果，会导致数据传输和网络延迟，而大模型一体机将计算资源与AI模型集成在一个设备中，能够在本地进行计算，使训练效率大幅提升，同时降低用户使用门槛。

性能方面，一体机通过算力底层硬件设施到大模型再到应用开发平台全生命周期深度优化，使得华为AI GPU可对标英伟达A100。10月19日，据A公司表示，华为昇腾910B的能力已经基本达到英伟达A100的水平。

软件方面，华为针对AI场景，设计了异构计算架构CANN、AI 计算框架MindSpore和全流程开发工具链MindStudio等软件体系。CANN是一种异构计算架构，功能类似英伟达CUDA，可以释放AI硬件的性能，支撑快速部署神经网络。MindSpore是华为深度学习框架，帮助开发者孵化出各种AI创新算法和应用，大幅提升效率，以11%的占比在全球框架里排名第三。MindStudio能让开发者一站式完成安装部署、模型训练等全流程，显著降低了开发门槛。

需求方面，华为昇腾一体机带来的大模型本地化部署，能够满足市场对于数据安全和技术门槛的需求。其中，从数据自主可控的角度出发，党政军对数据安全需求强烈。

假设2023-27年政府端PC数量为3300-3400万台，到2027年接入大模型的PC渗透率达到30%，AI一体机单价为180万元/台，最大并发量为40台，对应政府端AI一体机市场规模4590亿元。此外，AI工程化开发成本较高，中小厂商难以负担，使用一体机能够降低中小厂商进行AI创业的门槛。

华为昇腾一体机的研发和制造需要一定的门槛，需要合作方提供通用大模型算法的能力并具有华为的合作资质及合作时间（半年以上）。目前已有多家企业和华为合作推出一体机相关产品。