异动
登录注册
NVLink 架构大幅提升数据速率,空芯反谐振光纤成为新一代 AI 算力集群通信传输技术
韭幺柒
航行五百年的老司机
2023-05-30 16:35:28

英伟达 DGX GH200 AI 服务器系 统以及 NVLink 架构大幅提升数 据速率

空芯反谐振光纤或将成 为新一代 AI 算力集群通信传输 技术

算力超跑配专业赛道

什么是NVLink,NVSwitch

NVLink这是一种超快的芯片到芯片互连互通技术将允许定制芯片连贯地互连到公司的 GPUCPUDPUNIC和 SoC

NVSwitch并非作为取代NVLink的技术,而是使两组NVLink共16颗GPU能够互相具备全速沟通通道的手段;在设计上,NVLink被加在每两组GPU之间,两组NVLink则在透过高速通道连接 

0-1

最新 AI 服务器中高算力 GPU 之间互联速率大幅提升或将对传统传输技术提出 挑战

英伟达在 3 月 22 日的 GTC 大会上发布最新 AI 服务器系统 NVIDIA DGX H100 以及 NVLINK 架构DGX H100 配备 8 个 H100 GPU 模组并且配备 Transformer 引擎总 GPU 显存高达 640GB

每个 H100 GPU 配备 18 个 NVLink, 确保 GPU 之间的双向带宽高达 900GB/sGPU 之间通过 NVIDIA Switch 彼此互 联DGX 配备 4 个 NVSwitchesGPU 之间双向带宽为 7.2TB/s比上一代性能 提高 1.5 倍

NVSwitch 可以连接多个 NVLink在单节点内和节点间实现以 NVLink 能够达到的最高速度进行多对多 GPU 通信NVSwitch+NVLink 可以实现纵向扩 展来训练万亿参数模型这些 GPU 拥有高达 15 petaFLOPS每秒千万亿次浮点运算的深度学习计算性 能

DGX H100 服务器可利用 NVLink 来提高可扩展性进而实现超快速的深度学 习训练

在核心算力硬件性能大幅提升的背景下即使升级到 800G 光模块来进行 服务器之间的数据传输传统光纤的损耗延时或将对数据传输效率施加压力

1-10

COMPUTEX台北电脑展 2023 上NVIDIA黄仁勋 发布了 NVIDIA DGX GH200这标志着 GPU 加速计算的又一次突破为要求最苛刻的巨型 AI 工作负载提供支持

 1GH200 不是芯片是最新的DGX超级计算机最大可以放256颗GPU我们之前熟知的云厂商租赁出来的DGX服务器 内搭8颗DPU

   2GH200最显著的特点是适用于超大型ai模型的部署我们熟知的GPT3.5 就不能放在一台普通DGX上不同DGX之间靠通信链接现在GH200 将内存彻底打开提供线性拓展方式GPU 共享内存编程模型可通过 NVLink 高速访问 144 TB 内存比上一代DGX内存多了500倍DGX GH200架构提供的NVLink带宽是上一代的48倍这样万亿参数以上大模型都可以在一台DGX内放置有利于模型提升效率也有利于多模态模型开发进步

 三优缺点

空芯反谐振光纤将降低传统光纤损耗延时等问题提高 AI 服务器的数据传输效率l 传统玻璃光纤在材料的吸收色散非线性低损伤阈值等方面的限制在光纤通 信高功率激光输出超快光学非线性光学等领域的应用上出现限制空芯光纤 改变了光在光纤中的传输介质能够将光限制在空气芯纤芯中进行传输并且从根 本上避免了由于传统光纤在材料本征限制而带来的问题

空芯光纤有三大优点1低延时空气折射率为 1光在空芯光线中的传输速度是光速远远超过在玻璃介 质中传输速度2低色散空芯光纤的材料色散要低于实芯光纤三个数量级3低非线性4高激光损伤阈值空芯光纤由于可以实现超过 99%的光功率在空气 中传输光场与材料重叠极小在相同的传输功率下有更低的材料吸收拥有更高 的激光损伤阈值以至于减少光纤损伤

微软在 2022 年年底宣布收购空心光纤厂 商 Lumenisity以提升自身的云计算基础设施能力Lumenisity 的空心光纤已经 应用在 euNetworks 公司在英国伦敦和巴西尔登之间 14km 长的对金融交易至关 重要的数据中心互联上空芯光纤技术逐渐得到市场的认可在中短期之内或将开 启商业化进程在国内市场方面长飞光纤正在布局空芯反谐振光纤在 AI 数据 中心加速部署的趋势下长飞光纤的空芯反谐振光纤有望加速市场化并且加速渗透 进入 AI 数据中心互联以及 AI 服务器互联场景在 AI 算力的持续热度下长飞光 纤有望持续受益

 四用量大

 

中银通信长飞光纤空芯反谐振光纤龙头唯一最接近量产的A股标的

微软认证的新一代通信技术

2022年12月微软以9000万美金收购Lumenisity该公司实现了空芯反谐振光纤量产突破

[庆祝]空芯光纤是提高数据传输速率的革命性技术

该技术保障光信号可以在真空环境中传输与传统光纤相比具备低延时低损耗高带宽的特性

[庆祝]AI算力网络是该产品重要应用场景

AI服务器除了要求单卡性能外还要求多卡间的通讯性能例如采用PCI3.0协议通信的P2P最大带宽达到32GB/s但是仍然达不到所需的带宽要求英伟达为此专门开发了NVLINK架构以及DGX系统使得芯片间的双向带宽可达160GB/s因此英伟达需要800G的光模块来完成硬件布局以支持对应的超高带宽的DGX系统传统光纤的损耗延时依旧造成传输的浪费空芯光纤将成为绝佳的解决方案

目前空芯反谐振光纤产业推进难点是如何落地量产长飞光纤是最先突破并接近规模量产的公司

推荐300548博创科技   601869长飞光纤 

      688143长盈博


作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
博创科技
S
长飞光纤
S
长盈通
工分
11.74
转发
收藏
投诉
复制链接
分享到微信
有用 8
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(3)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    2023-05-30 16:40
    长飞光纤是最大
    1
    0
    打赏
    回复
    投诉
    于2023-05-30 16:50:21更新
    查看1条回复
  • 只看TA
    2023-05-30 16:58
    怪不得这次提到采购光纤,目前也在低位了
    0
    0
    打赏
    回复
    投诉
  • 1
前往