独家—字节跳动正在与美国博通合作研发一款先进AI芯片
股市刘德华
2024-06-24 12:22:21 上海市
独家-据路透报道，字节跳动正在与美国博通合作研发一款先进AI芯片
博通在AI中的杀手锏有两个：一个是人工智能加速器，也就是我们所说的XPU。这类加速器类似于英伟达、AMD等推出的GPU、NPU、LPU，但区别在于博通为客户定制自己的“XPU”。另一个则是GPU、NPU 和 LPU 等处理器的出现需要高速连接，而这正是博通的“老本行”。 XPU：100万个GPU AI集群需求 对于AI加速器，博通非常理智。 在回答是否会与英伟达的Blackwell产品激烈竞争时，博通表示：“众所周知，GPU是商用环境中首选的AI加速器，这种模式极为强大，是英伟达所擅长的领域。他们在这方面表现得非常出色，我们根本不考虑在这一领域与他们竞争，因为这是他们的强项。” 实际上，在博通一开始就在摆脱“GPU”（英伟达的推广名称），不断强调AI加速器可以是GPU、NPU、TPU等“X”PU。 博通认为，对于一些非常特定或选择性的超大规模客户，想要定制属于自己的AI芯片方案，博通非常乐意利用自身的IP帮助定制ASIC，未来AI加速器一定会过渡到定制芯片。 目前业内对于XPU的需求如滚雪球般增长。 博通的首席运营官举了一个例子：在两年前，最先进的集群有4,096个XPU，每个XPU只有几百瓦，使用Tomahawk交换机通过单层网络层互连其中的4,000个相当简单。到了现在，博通构建了超过 10,000 个 XPU 节点的集群，需要两层 Tomahawk 或 Jericho 交换机。博通的目标是2024年，将这个数字扩大到30,000多个，最终达到 100 万个。 从博通展示的最新XPU来看，拥有12个HBM堆栈，达到台积电CoWoS-S封装的极限，超过英伟达Blackwell的8个HBM堆栈。此外，构建集群时博通也一直在强调，其XPU功耗不到600瓦，是业内最节能的加速器之一。 目前，博通的XPU服务已经有了三个客户。 第一个不必多说，正是谷歌。博通与谷歌合作推出的TPU也一直是市场上的焦点产品，目前谷歌已经发布了第六代芯片Trillium，并且在数据中心市场中，谷歌TPU占据了20%的市场份额。 对于第二、第三个客户博通并没有透露。有人推测第二位客户是 Meta，因为 Mete在过去四年来一直是博通的客户，两家合作构建了多代产品，目前已经实现量产。 第三位客户众说纷纭，诸多分析认为这位“神秘买家”很可能是字节跳动。理由是它拥有大型网络，并采用了博通的片上神经网络推理引擎，同时也是一个以消费者为导向的大型社交网络，可以通过使用更多的定制芯片而不是商业芯片来获得快速的投资回报。对此，博通暂未回应，只是暗示是来自一家大型消费级AI公司。 2024年博通半导体业务中，来自AI的营收将达到35%，其中不仅包含两大客户的定制ASIC方案量产，新的第三大客户相关产品也将在今年实现量产。 以太网交换芯片的崛起 当需要一百个以上GPU时，连接它的唯一方法就是拥有网络，也印证了一句老话：网络就是一台计算机。 华尔街的分析师都认为：博通很有可能成为美国股市万亿美元俱乐部的下一个成员。背后的原因是将以太网络视作其重要的增长动力。 以太网和AI是什么关系？ 交换机为代表的组网设备是AI算力硬件的重要组成部分。AI训练中，由于GPU、网卡、内存之间需要高速传输数据，业界发明了一种名叫RDMA的技术，使网卡接管数据，在发送方和接收方的内存间直接传输数据，从而绕过缓存和操作系统。英伟达主导的IB（Infini Band）和以太网都支持RDMA。 随着大模型复杂度提升，在AI大规模集群部署方案一直有分歧，即关于Infiniband与以太网的技术路径争论。就投资而言，争论的背后本质是选择英伟达还是博通。 IB网络的成本显著高于以太网。它和英伟达的一整套解决方案绑定，网卡、交换机、光纤、光模块都要选购英伟达的，整体的成本最高可达以太网的5-10倍。 以太网支持者则认为，便宜就是硬道理，以太网不用和英伟达绑定，还可以对网络自行调优，达到和IB类似的性能。 在与英伟达Spectrum-X以太网络平台相抗衡方面，博通高层在受访时直言英伟达的新平台“毫无新意”，强调博通早已推出同类型的方案。当前，8大AI芯片丛集中有7个部署了由博通技术支持的以太网基础设施，预期明年所有超大规模AI集都将由以太网提供支持。 此外，在市场上，今年高端的以太网交换机芯片，彻底火了。自一季度以来，博通Tomahawk4系列的多款交换芯片价格迅速走高，在其官网和其他交易平台上大多显示无库存，且交货期高达50周，其中BCM56990B0KFLGG 市场报价已达4100美元左右。
杰华特多相控制器主要用于CPU/GPU/ASIC供电，可应用于服务器、PC等领域。
精智达针对潜力的HBM市场，公司应用于FT测试机的9Gbps高速接口ASIC芯片已经进入工程流片阶段，为后续覆盖HBM等新一代存储器件晶圆测试机夯实关键供应链基础。
瑞斯康达公司成功研发多款ASIC自主芯片用于接入设备，大量设备上采用了公司自主研发的芯片。
华正新材ABF薄膜是AI时代的关键原材料，国产替代空间巨大。AI算力浪潮驱动GPU、CPU和ABF载板快速成长。ABF载板适用于线路较细、适合高脚数高信息传输的IC，主要用于CPU、GPU、FPGA、ASIC等高运算性能芯片。
作者利益披露：原创，不作为证券推荐或投资建议，截至发文时，作者不持有相关标的。
声明：文章观点来自网友，仅为作者个人研究意见，不代表韭研公社观点及立场，站内所有文章均不构成投资建议，请投资者注意风险，独立审慎决策。
S
精智达
S
杰华特
工分
6.89
转发
收藏
投诉
复制链接
分享到微信
有用 6
打赏作者
无用
真知无价，用钱说话
0个人打赏
同时转发
评论（3）
只看楼主
热度排序
最新发布
最新互动
- 1