大模型两大开支算力和电力的降本增效已迫在眉睫
AI挖啊挖
2023-04-09 16:46:12
华为大模型负责人田奇称，大模型开发和训练一次需要1200万美元，大模型两大开支算力和电力的降本增效已迫在眉睫。
4月8日召开的人工智能大模型技术高峰论坛上，京东集团副总裁何晓冬表示，伴随着参数规模增速的不断提升，算力和训练成本仍存在瓶颈，存在较大优化空间。
大模型降本增效有两方面，一方面是优化算力，一方面是优化电力，因为电力支出占大模型训练成本的60%。大模型训练一次需要1200万美元，其中720万美元花费在了电力，电力降本增效空间巨大。
数据显示，今年以来AI大模型产业规模快速增长，数据中心建设成本和能耗激增，可靠性高、成本低的高压直流（HVDC）成为数据中心供电系统的新选择。采用“HVDC+市电直供”相结合的模式，供电效率可提升到 94%～95%。目前，HVDC已在BAT等大型互联网公司得到了全面规模化应用。
最新消息显示，华为、阿里巴巴、腾讯、百度等互联网巨头发布的AI大模型训练开始大规模采用HVDC电源这种最新供电技术，同时国内外新建的算力中心也开始全面招标HVDC，该新技术产品今年已经开始全面放量，HVDC相关上市公司今年业绩暴增预期强烈。
建议关注国内HVDC电源产品相关上市公司：动力源、中恒电气、科士达、科华数据、易事特等。
其中重点关注：动力源是中国最大的算力中心HVDC电源供应商，是华为、阿里、腾讯、百度指定HVDC电源供应商，出口占比35.46%。中恒电气是中国第二大算力中心HVDC电源供应商，以供应阿里为主，同时也是百度、腾讯、拼多多指定HVDC电源供应商。
4月8日召开的人工智能大模型技术高峰论坛上，京东集团副总裁何晓冬表示，伴随着参数规模增速的不断提升，算力和训练成本仍存在瓶颈，存在较大优化空间。
大模型降本增效有两方面，一方面是优化算力，一方面是优化电力，因为电力支出占大模型训练成本的60%。大模型训练一次需要1200万美元，其中720万美元花费在了电力，电力降本增效空间巨大。
数据显示，今年以来AI大模型产业规模快速增长，数据中心建设成本和能耗激增，可靠性高、成本低的高压直流（HVDC）成为数据中心供电系统的新选择。采用“HVDC+市电直供”相结合的模式，供电效率可提升到 94%～95%。目前，HVDC已在BAT等大型互联网公司得到了全面规模化应用。
最新消息显示，华为、阿里巴巴、腾讯、百度等互联网巨头发布的AI大模型训练开始大规模采用HVDC电源这种最新供电技术，同时国内外新建的算力中心也开始全面招标HVDC，该新技术产品今年已经开始全面放量，HVDC相关上市公司今年业绩暴增预期强烈。
建议关注国内HVDC电源产品相关上市公司：动力源、中恒电气、科士达、科华数据、易事特等。
其中重点关注：动力源是中国最大的算力中心HVDC电源供应商，是华为、阿里、腾讯、百度指定HVDC电源供应商，出口占比35.46%。中恒电气是中国第二大算力中心HVDC电源供应商，以供应阿里为主，同时也是百度、腾讯、拼多多指定HVDC电源供应商。
作者利益披露：转载，不作为证券推荐或投资建议，旨在提供更多信息，作者不保证其内容准确性。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
动力源
S
中恒电气
工分
1.46
转发
收藏
投诉
复制链接
分享到微信
有用 1
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
评论（1）
只看楼主
热度排序
最新发布
最新互动
- 1