[控场AI]
待验证50% 置信事实精确时间

控制评估(Control Evaluations)是AI安全评估的一种范式,其核心假设是模型可能具有恶意意图或会被攻击者利用,评估时红队尝试诱导模型执行危险操作,蓝队部署监控器、审计预算等防护措施,目标是衡量在给定攻击强度下防护措施能否成功阻止有害行为。

1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现

来源

涉及实体

相关事实

引用此条事实

Stable URI
https://kongchang.com/claim/1088134
API
curl https://kongchang.com/api/v1/knowledge/claims/1088134
MCP
get_claim(id=1088134)