Unverified50% confidenceFactExact time
METR专注于评估前沿模型是否具备自主复制、欺骗操纵或辅助大规模破坏性行动等高风险能力
1
Sources
50%
Confidence
Long-term
Relevance
9/15/2026
First Seen
Sources
Related Entities
Related Claims
VerifiedMETR（Model Evaluation and Threat Research）等组织正在开发标准化的危险能力测评，包括模型是否能提供超越公开文献的生物合成指导、是否能自主发现零日漏洞80% similarUnverifiedMETR（前ARC Evals）专注于评估前沿模型的危险能力77% similarUnverified模型幻觉检测、输出可靠性评估、Prompt注入攻击防范、数据隐私合规等议题随着AI应用大规模落地受到越来越多重视67% similarUnverified贴近落地的评测应包含多步骤有真实后果的任务链、对过度执行和破坏性操作的惩罚机制、权限管理与可回滚安全测试、面对模糊指令时主动澄清的能力65% similarUnverified部分团队开始探索分层审查策略：对低风险变更采用自动化静态分析兜底，对核心逻辑变更要求资深工程师人工复核65% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/922294API
curl https://kongchang.com/api/v1/knowledge/claims/922294MCP
get_claim(id=922294)