部分验证75% 置信事实精确时间
Apollo Research 长期研究模型欺骗、策略性行为等对齐风险,是这一领域较为活跃的独立研究机构,其评估方法通常涉及给模型设定特定目标与压力情境,观察是否出现隐瞒、操纵或规避检查的倾向。
3
来源数
75%
置信度
长期有效
时效性
2026/11/16
首次发现
来源
涉及实体
相关事实
待验证在嵌入式评估合作中,Apollo专注调查模型是否试图颠覆对其的控制机制;Goodfire用可解释性平台监测训练与对齐;METR开展两项评估,覆盖危险行为与检测能力;Transluce检验OpenAI安全评估流程本身。73% 相似待验证研究预览是一种 AI 产品发布阶段,厂商将尚在验证中的功能以有限范围开放给部分用户,目的是在真实使用环境中观察模型行为、收集反馈,功能可能随时调整或下线。68% 相似待验证ARC开发了一套模型评估(evals)框架,通过设计特定测试场景探测模型是否展现出危险行为倾向67% 相似待验证对抗性采样应专门收集模型置信度低、用户反馈负面或触发兜底策略的困难样本,这些样本对评估模型鲁棒性至关重要67% 相似待验证针对Agent权限模型的测试可借鉴STRIDE威胁模型,重点覆盖仿冒和权限提升两类场景66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1176601API
curl https://kongchang.com/api/v1/knowledge/claims/1176601MCP
get_claim(id=1176601)