待验证50% 置信事实精确时间

Anthropic在其Claude的设计文档中将可纠正性机制称为'corrigibility'，视为安全AI系统的核心属性之一

1

来源数

50%

置信度

长期有效

时效性

2026/7/20

首次发现

来源

AI Agent自主修复系统：如何在便利与失控之间划定边界

相关事实

待验证Anthropic出于安全考虑决定封印Mythos模型，因其在某些能力维度上超出当前安全评估框架的覆盖范围72% 相似待验证Anthropic官方将相关机制解释为防刷单、防偷学模型措施69% 相似待验证在提示词中明确声明主从关系（以X为主体）能有效引导AI以保护现有系统稳定性为前提进行最小必要改动，而非让两个项目趋同68% 相似待验证谄媚行为被AI安全和对齐领域视为重要研究方向67% 相似待验证Anthropic 为 Claude 设计了结构化的工具调用框架，限制智能体能调用的能力边界66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/566741

API

curl https://kongchang.com/api/v1/knowledge/claims/566741

MCP

get_claim(id=566741)