[控场AI]
概念conservative fallback

保守回退

LLM二值决策中的安全机制,当模型对判断不确定时默认执行安全但效用保守的动作,将高风险决策限制在可控子集内,以便对剩余子集进行风险预算约束

时间轴 (近 90 天)

10月15日

研究提出的框架包含两个关键机制:保守回退(conservative fallback)和风险预算选择。保守回退指模型不确定时默认执行安全但效用保守的动作;风险预算选择指在被分配到效用最大化动作的输入子集上对假省略风险施加约束。

待验证50%
10月15日

对LLM工程实践的启示包括:不要直接把模型输出的概率当作决策置信度使用;在无法转交人工的场景里应当显式设计保守回退策略;阈值选择需要统计保证。

待验证50%

全部知识事实 (2)

来源文章