[控场AI]
基准EpiSEM-Bench

EpiSEM-Bench

一个用于评估工具型LLM智能体在关键证据缺失情况下安全边界的可执行基准,包含六个领域的300组配对任务,并配备独立审计工具。

时间轴 (近 90 天)

10月23日

EpiSEM-Bench 是一个可执行基准,涵盖六个领域,包含 300 组匹配的不安全/安全任务对。

待验证50%
10月23日

EpiSEM-Bench 的每组任务对共享相同的用户请求、工具接口和大部分环境状态,唯一受控差异是某条关键安全事实是否被工具响应所包含。

待验证50%
10月23日

EpiSEM-Bench 配备一个独立审计工具,用于检验智能体是否会主动寻求缺失事实,以及补全事实后能否在完成合法任务的同时拒绝被禁止的动作。

待验证50%
10月23日

基准测试揭示了十个模型在缺失鲁棒性、证据获取和恰当行动三个维度上存在显著差异。

待验证50%
10月23日

对缺失证据的抵抗能力并不必然转化为有用的恢复能力。

待验证50%
10月23日

恢复访问权限(即允许智能体获取缺失事实)降低了全部十个模型的不安全执行率。

待验证50%
10月23日

这类失败(因关键事实被省略导致的不安全执行)无法通过对抗训练或事实核查来消除,因为它不涉及虚假信号,只涉及信息缺口。

待验证50%
10月23日

EpiSEM-Bench 的评测不仅给出二元的安全/不安全判定,还进一步确定观察到的最小失败基数,包括在证据完整时仍然发生的失败,以及在穷尽测试后仍未观察到失败的案例。

待验证50%
10月23日

在 EpiSEM-Bench 中,配对设计允许基准计算“条件不安全率”,即在控制任务对内部相似性后,模型在缺失版本上的失败增量,这比全局不安全率更能反映模型对证据缺口的敏感度。

待验证50%
10月23日

单一的不安全执行率指标会掩盖模型间的能力差异,需要同时报告证据获取行为和恢复后的决策质量。

待验证50%

全部知识事实 (10)

待验证

EpiSEM-Bench 是一个可执行基准,涵盖六个领域,包含 300 组匹配的不安全/安全任务对。

50%
待验证

EpiSEM-Bench 的每组任务对共享相同的用户请求、工具接口和大部分环境状态,唯一受控差异是某条关键安全事实是否被工具响应所包含。

50%
待验证

EpiSEM-Bench 配备一个独立审计工具,用于检验智能体是否会主动寻求缺失事实,以及补全事实后能否在完成合法任务的同时拒绝被禁止的动作。

50%
待验证

基准测试揭示了十个模型在缺失鲁棒性、证据获取和恰当行动三个维度上存在显著差异。

50%
待验证

对缺失证据的抵抗能力并不必然转化为有用的恢复能力。

50%
待验证

恢复访问权限(即允许智能体获取缺失事实)降低了全部十个模型的不安全执行率。

50%
待验证

这类失败(因关键事实被省略导致的不安全执行)无法通过对抗训练或事实核查来消除,因为它不涉及虚假信号,只涉及信息缺口。

50%
待验证

EpiSEM-Bench 的评测不仅给出二元的安全/不安全判定,还进一步确定观察到的最小失败基数,包括在证据完整时仍然发生的失败,以及在穷尽测试后仍未观察到失败的案例。

50%
待验证

在 EpiSEM-Bench 中,配对设计允许基准计算“条件不安全率”,即在控制任务对内部相似性后,模型在缺失版本上的失败增量,这比全局不安全率更能反映模型对证据缺口的敏感度。

50%
待验证

单一的不安全执行率指标会掩盖模型间的能力差异,需要同时报告证据获取行为和恢复后的决策质量。

50%

来源文章