DC娱乐网

马斯克今天透露了 xAI 的最新算力部署:Colossus 2 的四个集群合计约 86 万颗 GB300,其中 66 万颗用于训练,20 万颗用于推理。马斯克特别提到,推理集群的网络架构更简单,光纤用量不到训练集群的一半。 我认为这对 AI 硬件投资是个非常值得警惕的信号。 过去几年,AI 能力提升主要依赖扩大预训练规 ​

马斯克今天透露了 xAI 的最新算力部署:Colossus 2 的四个集群合计约 86 万颗 GB300,其中 66 万颗用于训练,20 万颗用于推理。马斯克特别提到,推理集群的网络架构更简单,光纤用量不到训练集群的一半。

我认为这对 AI 硬件投资是个非常值得警惕的信号。

过去几年,AI 能力提升主要依赖扩大预训练规模。更大的模型需要更多 GPU,GPU 之间需要更高速、更密集的通信,因此带动了光模块、光纤、交换机等硬件需求同步增长。

但未来的技术路线可能发生变化:预训练规模扩张的边际收益下降,AI 能力的提升越来越依赖强化学习、推理时计算和模型架构优化。

这意味着两个潜在变化:

第一,AI 能力的提升不再完全依赖扩大训练集群,新增算力需求可能更多转向推理。

第二,如果推理集群的单位 GPU 网络需求确实低于训练集群,那么即使 GPU 总量继续增长,配套光通信硬件的需求也未必同比例增长。

当然,这并不意味着训练已经结束。马斯克披露的配置中,仍有 66 万颗 GPU 用于训练。算法效率提高,也可能刺激更多算力消费。

真正值得警惕的是:如果新增算力逐渐转向网络需求较低的推理集群,而算法效率提升又降低了实现同等能力所需的训练计算量,那么 AI 硬件需求的增长速度,就可能低于资本市场此前的预期。

对于已经按照长期高速增长定价的硬件公司,即使实际需求没有下降,仅仅是增长不及预期,也足以引发估值重估。

所以,AI 的能力可以持续进步,应用可以持续爆发,算力消耗甚至可以继续增长,但这些都不能直接推出 AI 硬件公司的利润会持续高速增长。

AI 技术进步创造的经济价值,不一定由 AI 硬件厂商持续捕获。