Agent类任务,目前比较常见的麻烦是语义飘移。第一轮你说的某个概念/方法,会在好几轮对话之后,逐步变成它自己理解的那个样子。这个麻烦你在组织肉人类去拼装工作流时,也会遇到。我个人的经验是,每隔几轮,就要求agent重新复述一遍当前执行的任务,确保它的理解和你的理解是能够对齐的,人机合一!这个应用在活人身上反倒效果不好,训小孩似的,摆明了是把人当傻子。你说不是不是,我是希望我们可以合为一体!不行。更不高兴了。用多了会磨损某种成年人类之间的情谊。
Agent类任务,目前比较常见的麻烦是语义飘移。第一轮你说的某个概念/方法,会在好几轮对话之后,逐步变成它自己理解的那个样子。这个麻烦你在组织肉人类去拼装工作流时,也会遇到。我个人的经验是,每隔几轮,就要求agent重新复述一遍当前执行的任务,确保它的理解和你的理解是能够对齐的,人机合一!这个应用在活人身上反倒效果不好,训小孩似的,摆明了是把人当傻子。你说不是不是,我是希望我们可以合为一体!不行。更不高兴了。用多了会磨损某种成年人类之间的情谊。