DC娱乐网

如何让模型自己学会组装技能?目前,Agent 主要依赖两种方式来获得新能力:

如何让模型自己学会组装技能?目前,Agent 主要依赖两种方式来获得新能力:

1️⃣文本知识,借助 Prompt、RAG、Memory 等方式,让模型读取外部信息;
2️⃣参数技能,通过 LoRA、Prefix Tuning 等方式,把特定能力编码进模型参数;

但这两种能力通常相对独立,文本知识容易更新,但依赖上下文输入;参数技能执行会更稳定,但难以灵活组合。

在论文「SkillSmith: Learning to Compose Parametric Skills and Textual Knowledge」中,作者提出了一个新的研究方向,探索如何让模型学会组合文本知识和参数技能。

在论文中,SkillSmith 会把任务描述、文本知识和已有技能作为输入,让模型生成适合当前任务的技能组合。

在实验部分,论文比较了三种方式:

1. Text-only:仅使用文本知识
2. Weight-only:仅使用参数技能
3. SkillSmith:结合文本知识与参数技能

实验结果表明,相比仅使用文本知识或参数技能的方法,SkillSmith 在多个任务中表现会更好。

SkillSmith 这项研究探索了一种新的 Agent 能力组织方式。除了检索知识、调用工具之外,Agent 可能要学会如何组合已有能力。

Agent LLM Skill AI论文 大模型研究