[控场AI]
概念risk budget

风险预算

在LLM智能体部署决策中,对特定风险指标(如假省略风险)施加的标量约束,例如'假省略率不超过5%',将阈值选择问题转化为在给定风险预算下最大化有效动作覆盖率的问题

时间轴 (近 90 天)

10月15日

工程团队可以用一个标量风险预算(例如假省略率不超过5%)作为部署门槛,而不是在多个互相纠缠的错误率之间做模糊权衡。

待验证50%
10月15日

这项工作把LLM二值决策从分类问题重新框定为风险预算下的资源分配问题。

待验证50%
10月14日

信封机制的思想借鉴自金融风控中的风险预算(risk budget)和航空业中的飞行包线(flight envelope)。

待验证50%
10月13日

并发预算控制的是同一时间有多少会话在消耗资源,属于速率控制;token预算、美元预算控制总共能花多少,属于总量控制;风险预算约束哪些操作需要审批或可回滚。

待验证50%

全部知识事实 (4)

来源文章