一位前LLM实验室员工关于LLM使用未来以及训练后重要性的非常深刻的观点:
1. 在他看来,应用/产品公司和模型提供商已经开始趋同,并进入彼此的领域。他认为,为了在长期内取得成功,产品公司将不得不训练自己的模型。
2. 据他所说,在过去,预训练占训练计算成本的80%,训练后占20%。现在这种情况已经转向更接近50/50的分配,因为训练后变得非常重要。他指出,训练后和预训练专家所需的人类人才画像也非常不同。
3. 公司过去不注重预训练的原因之一是因为80/20的成本分配,但现在更接近50/50,他认为更多公司也将进行预训练,因为如果你已经在做训练后,额外进行预训练的成本并没有那么大。
4. 他认为,在未来,我们将生活在一个模型提供商和应用公司之间没有区别的世界。
5. 在护城河方面,他不认为来自用户的专有数据会像行业认为的那样增加太多价值。这部分是因为,在LLM使用中,你无法真正获得关于提示正确完成的可靠数据。同时,他确实认为一个强大的竞争优势是拥有提供真实世界使用信号以及人们实际如何使用你的模型(使用模式)的数据,然后你会加倍投入其中。
6. 这位专家认为,没有自己模型的应用公司将任由封闭模型提供商摆布,因为对于LLM公司来说,创建产品比产品公司创建AI模型要容易得多。开源的问题也在于它与封闭模型相比仍有性能差距,而且你不知道开源权重提供商是否会继续以开源形式发布产品的更新版本。他认为,当应用公司通过使用AI模型提供商服务的细分市场变得足够大时,AI模型提供商可以极其快速地拼凑一些东西来追赶你。
7. 他认为,随着时间的推移,我们将变得更擅长将提示路由到不同的模型,并使用更小、更高效的模型来处理我们今天使用的许多任务,因为较小的模型也在变得更好。许多任务并不需要在更大的前沿模型上服务。



