τ²-Bench
一个用于评估工具型LLM智能体在现实场景中任务完成能力的基准测试,包含电信等子集,考察智能体在多轮工具调用中的准确率与效率
时间轴 (近 90 天)
在 τ²-Bench 上,SpecAgent 的成功率与强模型相差不到一个百分点,同时内存流量和墙钟时间大约减半。
SkillScaffold在ALFWorld、WebShop、ScienceWorld和τ²-Bench四个基准上进行了评估,并在短程和长程任务上都超越了强智能体RL基线和技能驱动RL基线。
τ-bench 是 Sierra 团队提出的 Agent 评测基准,用于衡量「工具-智能体-用户」三方交互场景下模型对政策的遵从度,包含航空客服与零售电商客服两个领域。
论文在τ²-Bench多轮交互评测基准上验证了CUE的效果
τ²-Bench是专为多轮任务导向对话设计的评测基准,以任务最终成功与否作为核心指标并记录完整对话轨迹
相比其他基于人格的模拟方法,经过CUE校准的模拟器产生更少的模拟器自身错误(假失败)
CUE的实验以τ²-Bench为主要舞台、拟合数据以客服交互为主,其在医疗、法律等更专业领域的校准效果仍有待后续验证
全部知识事实 (7)
在 τ²-Bench 上,SpecAgent 的成功率与强模型相差不到一个百分点,同时内存流量和墙钟时间大约减半。
50%待验证SkillScaffold在ALFWorld、WebShop、ScienceWorld和τ²-Bench四个基准上进行了评估,并在短程和长程任务上都超越了强智能体RL基线和技能驱动RL基线。
50%待验证τ-bench 是 Sierra 团队提出的 Agent 评测基准,用于衡量「工具-智能体-用户」三方交互场景下模型对政策的遵从度,包含航空客服与零售电商客服两个领域。
50%待验证论文在τ²-Bench多轮交互评测基准上验证了CUE的效果
50%待验证τ²-Bench是专为多轮任务导向对话设计的评测基准,以任务最终成功与否作为核心指标并记录完整对话轨迹
50%待验证相比其他基于人格的模拟方法,经过CUE校准的模拟器产生更少的模拟器自身错误(假失败)
50%待验证CUE的实验以τ²-Bench为主要舞台、拟合数据以客服交互为主,其在医疗、法律等更专业领域的校准效果仍有待后续验证
50%