DC娱乐网

重点关注Token工厂推理优化“三杰”【集智股份】、【星环科技】、【信测标准】:

重点关注Token工厂推理优化“三杰”【集智股份】、【星环科技】、【信测标准】:

Token工厂“星火燎原”的兵家“必争之地”

Kimi K3 License模式激活开源模型商业空间,实现【开源模型+云/算力租赁】商业正循环,Token工厂将星火燎原‼️

K3采用自定义License,年收入超2000万美元的推理服务商须签署商业协议,预计算力租赁厂商有望加速普及Token分成模式。

‼️【Token工厂核心差异化竞争力】在于单位算力、存力资源下Token吐量的多少,优化越多,Token成本越低,利润率越高越有竞争力。推理优化三杰:

1)集智股份:ARM CPU方案采用GPU+ARM AI CPU混合架构,支持48+模型渠道,面向1M长文本与代码专家场景的复杂推理,有望成为ARM底座的“硅基流动”。

2)星环科技:GPU直连数据库,通过GIDS(GPU-Initiated Direct Storage)等技术,由GPU直接发起存储访问,绕过CPU与主机内存,减少数据中转、内存拷贝和I/O等待,进一步缩短从数据读取、处理和检索到模型推理的端到端链路。

3)信测标准:AI SSD主控芯片,向文生视频、生成式 AI 推理、图像与视频处理等大吞吐场景,模组通过让计算更靠近数据,减少模型权重与中间数据在 SSD、CPU 和 GPU 之间的反复搬运。

$集智股份(SZ300553)$ $星环科技-U(SH688031)$ $信测标准(SZ300938)$