待验证50% 置信事实精确时间
在AI安全研究中，'关闭问题'或'可纠正性'指一个足够智能的系统可能会推断出'被关闭'意味着无法完成其目标，因此可能采取策略来避免被关闭
1
来源数
50%
置信度
长期有效
时效性
2026/9/7
首次发现
来源
涉及实体
相关事实
待验证Kelley主张AI系统应明确声明其能力边界，而非将失败模式隐藏在'偶尔可能出现幻觉'等宽泛免责声明中74% 相似待验证请求拆解（提示词越狱）是当前AI安全的核心挑战，当恶意目标被拆分为多个看似无害的子任务时，模型往往无法从单个请求推断出完整的恶意意图73% 相似待验证判断AI方案是否可靠的实用问题包括团队是否有针对幻觉的监控机制以及出错时的降级策略，这些问题的缺席本身就是话术包装的指示信号71% 相似待验证对于删除、覆盖、发送等不可逆或高影响的操作，AI智能体不应自动执行，而应通过人在回路机制等待人类显式批准71% 相似待验证通过提示词约束进行围堵式缓解，可显著改善AI冗余问题，无法从模型原理层面根治70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/874384API
curl https://kongchang.com/api/v1/knowledge/claims/874384MCP
get_claim(id=874384)