MASCAL
一种面向多智能体协作的置信度校准方法,通过强化学习联合优化任务性能与置信度校准,使智能体输出经过校准的正确概率并在交接时传递给下游智能体,配合置信度感知加权机制提升多跳问答等任务的可靠性与可解释性。
时间轴 (近 90 天)
MASCAL方法让每个智能体在强化学习过程中联合优化任务性能和置信度校准,学会为答案生成校准后的正确概率。
MASCAL在交接时将对答案的正确概率传递给下游智能体,为下游提供量化的决策依据。
MASCAL引入了置信度感知加权机制:在训练过程中增加对上游概率敏感位置的学习权重,使智能体能够从主动使用信号的决策中学习更多。
实验覆盖三种协作架构,涉及网络检索和推理任务,结果显示MASCAL在任务准确性和校准质量上均提升了两类智能体的表现。
MASCAL能够泛化到更深的协作链和不同的模型规模,不依赖于特定架构或模型尺寸。
通过干预分析,研究团队确认上游置信度确实影响下游决策行为。
学习到的最终置信度支持选择性回答和针对性复查:置信度高时更自信输出,置信度低时触发特定环节重新检查。
全部知识事实 (7)
MASCAL方法让每个智能体在强化学习过程中联合优化任务性能和置信度校准,学会为答案生成校准后的正确概率。
50%待验证MASCAL在交接时将对答案的正确概率传递给下游智能体,为下游提供量化的决策依据。
50%待验证MASCAL引入了置信度感知加权机制:在训练过程中增加对上游概率敏感位置的学习权重,使智能体能够从主动使用信号的决策中学习更多。
50%待验证实验覆盖三种协作架构,涉及网络检索和推理任务,结果显示MASCAL在任务准确性和校准质量上均提升了两类智能体的表现。
50%待验证MASCAL能够泛化到更深的协作链和不同的模型规模,不依赖于特定架构或模型尺寸。
50%待验证通过干预分析,研究团队确认上游置信度确实影响下游决策行为。
50%待验证学习到的最终置信度支持选择性回答和针对性复查:置信度高时更自信输出,置信度低时触发特定环节重新检查。
50%