异动
登录注册
刷新业内AI大模型训练算力效率新高!
骑牛向东北
绝不追高的老司机
2023-02-19 21:04:32
近日,淮海智算中心携手浪潮信息进行了超大规模参数AI大模型训练性能测试,实测数据表明,千亿参数规模的自然语言AI单体大模型在淮海智算中心计算平台上的训练算力效率达53.5%,刷新了业内AI大模型训练算力效率新高。这意味着淮海智算中心将可为国内生成式AI创新团队提供高性能、高效率的AI大模型训练算力服务。

 生成式AI需要基于海量的自然语言或多模态数据集,对拥有巨大参数的超大规模AI模型进行训练,其训练所需AI算力当量非常高,如以PD(Petaflops-Day)为单位来衡量,OpenAI的GPT-3大模型训练的算力当量为3640PD,而浪潮“源1.0”大模型的算力当量则为4095PD。

超大规模AI大模型的训练一般必须在拥有成百上千加速卡的AI服务器集群上进行,如何在AI计算集群上获得更高的训练算力效率则会直接影响到模型训练时长以及算力消耗成本,这对于提升生成式AI研发创新效率有着非常重要的影响。据公开资料表明,GPT-3大模型在其V100 GPU集群上的训练算力效率为21.3%,而浪潮“源1.0”的训练算力效率则达到了44.8%。

针对AI大模型训练的计算特点,浪潮信息AI团队对淮海智算中心算力系统进行了专业设计,对集群架构、高速互联、算力调度等方面进行全面优化,在系统架构上,采用单节点集成8颗加速器的AI服务器,节点内加速器间实现超高速P2P通信,节点间建立极低延迟、超高带宽的Infiniband通信网络,在大模型训练技术层面,成功运用了中文巨量AI模型“源1.0”的训练优化经验,对分布式训练策略进行了针对性优化,通过合理设计张量并行、流水并行和数据并行,精准调整模型结构和训练过程的超参数,最终实现千亿参数规模AI大模型的训练算力效率达到53.5%。

淮海智算中心由安徽省宿州市与浪潮共同推进建设,目标是建成技术先进、架构开放、应用丰富、生态完善的国内领先智算枢纽。淮海智算中心将依靠领先的算力、算法基础设施,开放的技术架构,成熟丰富的生态应用,面向全国提供智能算力、数据和算法服务,打造良好的智算产业生态。

备注:

从2018年的BERT到2020年的GPT-3,NLP语言模型经历了爆发式的发展过程,其中BERT模型的参数量为3.4亿,而GPT-3的模型参数量达到了1750亿。2021年9月,浪潮发布了“源1.0”,它是目前规模最大的中文AI单体模型,参数规模高达2457亿,训练采用的中文数据集达5TB“源1.0”在语言智能方面表现优异,获得中文语言理解评测基准CLUE榜单的零样本学习和小样本学习两类总榜冠军。测试结果显示,人群能够准确分辨人与“源1.0”作品差别的成功率低于50%。


声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
浪潮信息
S
拓维信息
工分
9.75
转发
收藏
投诉
复制链接
分享到微信
有用 15
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(10)
只看楼主
热度排序
最新发布
最新互动
  • 骑牛向东北
    绝不追高的老司机
    只看TA
    2023-02-19 21:10
    补充一下,浪潮今天晚上登上了新闻联播。
    7
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-20 15:09
    看好三一重工
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-20 07:50
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-20 00:34
    看好中科曙光
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-19 22:43
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • kyda
    不要怂
    只看TA
    2023-02-19 22:17
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    2023-02-19 22:04
    谢谢分享!
    0
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    2023-02-19 21:44
    0
    0
    打赏
    回复
    投诉
  • 全仓梭哈的小韭菜
    全梭哈的小韭菜
    只看TA
    2023-02-19 21:09
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 慢人一步的大韭菜
    热爱评论的散户
    只看TA
    2023-02-19 21:07
    分析的不错 
    0
    0
    打赏
    回复
    投诉
  • 1
前往