海光 + 讯飞联合实验室,最该高兴的可能是开发者
海光和讯飞搞联合实验室,我觉得最该关注这事的其实是开发者,尤其是那些在国产算力平台上做 AI 应用开发的攻城狮。
做过国产算力适配的人都懂那种痛吧,每个芯片平台有自己的软件栈、自己的算子库、自己的开发工具,大模型换个平台就要重新适配一遍,算子不兼容、性能上不去、调试工具难用,一个模型从 "能跑" 到 "跑得好" 可能要磨几个月。行业里管这叫 "适配地狱"。
海光这边其实已经解决了这个问题。DCU 的 DTK 软件栈对 CUDA 兼容做到算子覆盖超 99%,大部分基于 CUDA 写的模型代码几乎不用改就能迁移。而且已经适配了400多款大模型,很多都是Day0 适配,这个速度在国产芯片里是第一梯队的。
但光有芯片厂商单方面努力还不够,两家还联合成立实验室:海光的工程师和讯飞的算法团队合力,把星火模型在海光平台上从底层算子到上层框架做端到端的联合优化,输出的不只是一个 "适配好的模型",而是一套可复用的优化方法论和工具链。
如果这套东西能沉淀下来、开放给开发者社区,那意义就大了。以后其他大模型团队基于海光平台做开发,有讯飞验证过的优化路径和工具可以参考,适配周期从几个月缩短到几周,开发体验向 CUDA 靠拢。这才是两家龙头对整个生态最大的价值。
说到底,国产算力的竞争最后拼的是生态,生态繁荣了,芯片才有未来。
海光信息 科大讯飞 AI开发者
