异动
登录注册
英伟达与Equinix达成合作:为企业客户提供AI超算系统
首版挖掘
满仓搞的老股民
2024-01-25 10:54:50

 

Nvidia和数据中心巨头Equinix发布新服务 帮助合作伙伴“更快”完成DGX系统交易

Nvidia和Equinix表示,他们构建了一个解决方案,主要针对那些想要快速设置私有超级计算机来构建生成式AI应用、但缺乏支持系统的数据中心基础设施和专业知识的企业。

这项新服务适用于那些想要私有AI超级计算机、但又缺乏支持这些系统的数据中心基础设施和专业知识的企业。Nvidia高管Charlie Boyle表示,这项服务将帮助渠道合作伙伴“更快地赚钱,更快地完成业务,并最终为客户提供更多的价值”。

Nvidia和Equinix表示,他们构建了一个解决方案,主要针对那些想要快速设置私有超级计算机来构建生成式AI应用、但缺乏支持系统的数据中心基础设施和专业知识的企业。

本周三宣布推出的这项Equinix Private AI with Nvidia DGX服务,被两家厂商描述为“交钥匙型”解决方案,其中Equinix负责托管和管理企业通过Nvidia渠道合作伙伴购买的Nvidia DGX超级计算机。

该方案是为出于各种原因(包括安全性、数据主权和可审计性)而不想将数据存储在公有云中的企业而设计的。

Nvidia DGX系统副总裁Charlie Boyle表示,新的解决方案将帮助Nvidia Partner Network中的合作伙伴通过DGX系统“更快地赚钱、更快地完成交易,并最终为客户提供更多的价值”。

“这使他们更容易售卖和完成交易,让客户更容易使用、启动和运行人工智能,因此这对于我们所有的[Nvidia Partner Network]合作伙伴来说将带来巨大的好处,可以加速他们已经忙了数月的交易,并让新的交易进入管道中。”

通过这项全面管理的服务,芯片巨头Nvidia和数据中心巨头Equinix希望解决许多企业面临的问题:在私人数据中心规划和部署Nvidia DGX系统集群需要花费大量时间,而且缺乏适当的设施来容纳此类系统,以及缺乏管理这些系统的人员。

Boyle在一份简报中表示:“客户想要世界一流的AI功能,但他们中的大多数人都没有数据中心基础设施,也不具备构建、管理和运行这些系统的专业知识。”

Equinix高级副总裁、数据中心服务总经理Jon Lin表示,凭借Equinix在建立和管理数据中心方面的专业知识,新的Private AI服务可以将部署DGX超级计算机的交付时间“从几个月缩短到几周,甚至是几天”。

Equinix Private AI With Nvidia DGX中包含哪些内容

Equinix的Private AI服务专注于Nvidia DGX BasePod或者SuperPod集群配置,根据Nvidia的文档显示,后者的范围可以从128个DGX H100系统扩展到多达2048个系统。

这些DGX系统每个都包含8个H100 GPU,使用Nvidia超低延迟的InfiniBand网络技术连接在一起,并由Equinix全球800多名员工组成的托管服务团队进行管理。

该服务的另一个关键组件是Nvidia AI Enterprise,一个面向芯片设计师的软件平台,其中包括了训练和运行AI模型所需的所有构建模块,从用于构建大型语言模型的NeMo框架到用于优化此类模型的TensorRT-LLM库。

据Equinix称,Private AI服务的客户可以在全球近250个Equinix International Business Exchange数据中心部署他们的DGX集群,其中包括位于北美、南美、欧洲、亚洲和非洲的数据中心。

Equinix数据中心内的DGX集群通过高速专用网络与外界连接,Equinix还为云服务和企业服务提供商提供了高带宽互连。

该服务提供了“企业级”的支持和安全性,其中包括Equinix员工在构建和部署自定义AI模型方面提供的帮助,以及与Nvidia专家建立联系。

Lin表示:“全球各地的企业都倾注了巨大的精力希望做到这一点,但要以既不会从网络安全的角度或者知识产权泄露的角度暴露自己的方式。那么,私有基础设施就会成为能够实现这一目标的一条关键途径。”

Private AI服务确保快速DGX部署而非快速交付

Boyle表示,虽然Nvidia和Equinix把Private AI服务定位为企业建立私有AI基础设施的一种快速而简单的方式,但它不会对DGX系统的交付周期产生影响。

“无论部署在哪里,所有DGX SuperPOD客户从订单到系统发货的交货时间都是相同的,”他说。

去年,原始设备制造商和渠道合作伙伴普遍抱怨说,配置了Nvidia H100 GPU(包括DGX)的系统交货时间过长。这是由于对处理器的高需求造成的,处理器因其高性能而受到无数AI开发者的欢迎,包括OpenAI等大公司。

过去几个月,Nvidia一直在努力增加H100的产量以满足需求,但有合作伙伴称,交货时间仍然很长。

一位Nvidia合作伙伴公司高管表示:“你只是在出售缺货订单,一个排队的位置。”他要求匿名以便能够坦率地谈论与这家芯片设计商之间的业务情况。

另一位Nvidia合作伙伴公司高管表示,基于H100的系统的交货时间正在有所改善,但面向客户的交货时间仍然需要四到八周,“保守一点的话”。他补充说,在某些情况下,系统的交付速度能更快一些。

 

作者利益披露:原创,不作为证券推荐或投资建议,截至发文时,作者不持有相关标的。
声明:文章观点来自网友,仅为作者个人研究意见,不代表韭研公社观点及立场,站内所有文章均不构成投资建议,请投资者注意风险,独立审慎决策。
S
ST高鸿
工分
18.18
转发
收藏
投诉
复制链接
分享到微信
有用 22
打赏作者
无用
真知无价,用钱说话
0个人打赏
同时转发
评论(11)
只看楼主
热度排序
最新发布
最新互动
  • 只看TA
    01-25 11:47
    英伟达新高,英伟达算力新方向,因为高鸿只是有合作,竟然还有合资公司,正宗
    4
    0
    打赏
    回复
    投诉
    于2024-01-25 12:14:23更新
    查看1条回复
  • 只看TA
    01-25 10:57
    感谢分享
    2
    0
    打赏
    回复
    投诉
  • 只看TA
    01-25 14:24
    谢谢分享
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    01-25 14:24
    不错,盘子再小点就好了


    1
    0
    打赏
    回复
    投诉
  • 加油奥利给
    下海干活的韭菜种子
    只看TA
    01-25 11:30
    1
    0
    打赏
    回复
    投诉
  • 只看TA
    01-26 12:24
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 一颗土豆的烦恼
    明天一定赚的剁手专业户
    只看TA
    01-25 12:52
    谢谢分享
    0
    0
    打赏
    回复
    投诉
  • 长长韭久
    无师自通的老韭菜
    只看TA
    01-25 12:05
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 唐史主任司马迁的粉丝2
    互相伤害的站岗小能手
    只看TA
    01-25 11:31
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 只看TA
    01-25 11:05
    感谢分享
    0
    0
    打赏
    回复
    投诉
  • 1
前往