arXivDaily arXiv每日学术速递 周一至周五更新

PAPERDAILY REPORTS

浙大&美团等提出SkillRise:让AI智能体在跨任务中自动演化技能

作者:arXivDaily编辑部 arXiv 2607.26784 cs · cs.AI · cs.LG

浙江大学、新加坡国立大学、上海交通大学和美团联合提出了SkillRise,一个面向跨任务技能演化的统一强化学习框架。在ALFWorld、WebShop和ScienceWorld三个基准上,SkillRise在Pass@1指标上相比最强基线提升了2.3到8.5个百分点。关键设计是让智能体在解决任务的同时,自动整理一份可传递给下一个任务的技能文档。

智能体在两个角色间切换:解题者 + 整理者

标准智能体强化学习将每个任务视为独立回合,导致跨任务经验无法积累。一些技能学习方法尝试解决这个问题,但往往需要多阶段流水线,将提取、检索和执行分开,导致各环节相互纠缠。

SkillRise的设计简单直接:将相关实例组织成逐步提升难度的序列,然后使用单一策略在两种动作间交替——任务求解(在当前任务上采取行动)和技能整理(更新一份不断演化的技能文档)。这份文档直接传递给下一个任务。

这种设计的核心是"解耦信用分配"机制:任务求解的好坏用当前任务的结果监督,而技能整理的好坏用折后的下游任务结果来监督。这意味着,如果整理出来的技能文档帮助了后续任务,整理动作就会获得正面奖励;如果后续任务变差,整理动作也会受到惩罚。

这个机制回答了一个此前不好处理的问题:智能体在写技能文档的当下,无法立刻知道自己写得对不对。把奖励延后到下游任务,等于让文档的价值由它实际带来的帮助来判定,而不是由某个人工设定的格式规范来判定。

从重复尝试到跨任务迁移

实验对比了ALFWorld、WebShop和ScienceWorld三个基准。SkillRise在所有基准上取得了最强的Pass@1性能,增益幅度从2.3到8.5个百分点。

更有趣的是测试时缩放效应。当给智能体提供更长的相关任务序列(即使每个任务只尝试一次),性能会随着序列变长而持续提升。这个趋势说明,SkillRise确实在跨任务复用可迁移技能,而不是通过重复采样同一任务来提升表现。

图:SkillRise在跨任务训练中抽取、复用和演化技能的框架。

一个技能文档,多次利用

消融实验验证了技能文档的作用。当移除技能文档组件后,SkillRise的性能下降到与基线相当的水平。训练过程中文档的演化也有迹可循——从初始的通用策略描述,逐渐细化到包含各域的具体操作模式。

虽然SkillRise是在不同任务上训练的,其学到的整理策略在同一个任务的重复尝试上仍然有效。这意味着即使任务序列中出现了类似的任务,技能文档也能提供帮助。

图:不同训练设置下SkillRise成功率随训练步数的变化。

效率和可扩展性

相比多阶段流水线的技能学习方法,SkillRise在运行时开销上也有优势。单一策略的设计避免了多个阶段之间的切换成本,大幅降低了运行时间。论文中的效率对比显示,SkillRise在保持更强性能的同时,运行时间显著低于多阶段方法。

这一点在工程上不容忽视。技能提取、向量检索、执行决策分属三套模块时,每一步都要序列化中间结果、加载各自的模型,累积的等待时间往往超过实际推理时间。把三件事收进同一个策略后,中间状态直接留在上下文里,省掉的是整条链路的胶水开销。

图:SkillRise与基线的成功率和相对运行时间对比。

跨任务缩放:更多任务,更好表现

测试时缩放效应是一个值得关注的现象。当任务序列长度从2个增加到8个时,即使每个任务只尝试一次,Pass@1仍然持续提升。这意味着SkillRise的增强效果来自跨任务技能迁移,而非域内重复采样。

这种缩放效应为训练LLM智能体提供了新的思路:与其在单个任务上反复采样,不如构建相关的任务序列,让智能体在序列中自然积累可迁移的技能。

图:跨任务序列长度增加时不同方法的成功率变化。

从模拟环境走向真实场景应用

SkillRise的实验在ALFWorld(家居任务)、WebShop(在线购物)和ScienceWorld(科学实验)等模拟环境中进行。这些环境提供了丰富的任务变体,但距离真实世界还有差距。真实环境中任务的异构性更强,相关和不相关的任务往往混杂在一起,如何自动构建合适的任务序列,是将SkillRise推广到实际应用的下一步。

值得留意的是这套思路与工程实践的契合点。真实业务里的智能体往往长期面对同一类任务——处理工单、比对报表、跑同一套运维流程。这些场景天然构成了"相关任务序列",也正是技能文档最容易积累起价值的地方。

参考资料

https://arxiv.org/abs/2607.26784

https://github.com/Within-yao/SkillRise