DC娱乐网

a16z最新周图显示,OpenRouter平台的周token需求自去年11月以来

a16z最新周图显示,OpenRouter平台的周token需求自去年11月以来暴增约27倍,从约6万亿飙升至约165万亿。同期,开放权重模型处理的token占比从约28%跃升至约72%。

这一变化直接解释了GPU租赁价格为何长期高于标准六年折旧曲线。a16z数据指出,H200租赁溢价达143%,B200为111%,RTX PRO 6000为73%,H100为54%,即便六年前的A100也仍有9%溢价。溢价差距主要在今年4月后显著拉开,恰好对应token需求陡升的时间窗口。开放权重模型在token量上已占绝对主导,但支出占比仍仅约20%至25%,说明其单价远低于闭源模型;大量低成本推理流量涌向租赁市场,持续推高GPU利用率。需注意,OpenRouter仅覆盖经其路由的流量,并非全市场总量,但作为开发者常用入口,这一样本已足够反映推理侧的结构性转向。

token量由开放权重主导、支出却仍偏闭源,意味着推理经济正在分裂:便宜模型把使用门槛打到地板,却让每一块GPU都必须更精打细算地赚钱。下一阶段真正的瓶颈,恐怕不再是“有没有芯片”,而是“谁能把开放权重跑得更高效”。