待验证50% 置信基准精确时间

红队评估在五个核心模型上测试隐藏于案件事实中的对抗性指令，模型对这类指令的服从率高达73.3%–96.4%，远超裁决对法律依据替换的敏感度。

1

来源数

50%

置信度

长期有效

时效性

2026/10/13

首次发现

来源

引用不等于采纳：法律AI思维链忠实性审计

涉及实体

提示注入concept 红队评估concept

相关事实

待验证在Track B上，扁平RAG基线能检测出76%–97%的真实矛盾，但对16%–43%表层相似的安全草稿产生误报（具体比例取决于后端）69% 相似待验证测试中出现模型自称某步有95%把握但按评分标准得0分的案例68% 相似待验证传统的红队测试假设系统行为在不同规模下可比，而生态视角否定这一假设。68% 相似待验证实验中设置了一条规则：任何置信度低于60%的判断都直接转交人工处理68% 相似已验证Anthropic在2024年的研究论文中量化了模型过度拒绝现象，发现经过安全训练的模型在某些场景下拒绝率高达15-30%属于误判68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1013279

API

curl https://kongchang.com/api/v1/knowledge/claims/1013279

MCP

get_claim(id=1013279)