待验证50% 置信事实精确时间

虚假线索的全过程（从生成到发送）由AI自主完成，而非由人工审核后决定提交

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/11

首次发现

有效期至：2027/1/9

来源

Anthropic AI误报凶杀案线索：AI自主行为的失控风险

涉及实体

Anthropiccompany

相关事实

待验证如果交给AI的资料不全，AI可能会跳过或编造数据，且这些编造在最后审核时难以发现75% 相似待验证一些AI客服系统被主动编程来回避身份确认，当用户直接询问是否为AI时给出模棱两可的回答75% 相似待验证在网络配置场景中，任何 AI 生成的命令都必须经过人工审查后才能执行，不能直接下发75% 相似待验证AI在没有真实感知反馈机制的情况下，无法通过纯粹的代码生成重现游戏手感的调试过程75% 相似待验证AI生成的漏洞报告只是初稿，最终提交前必须人工精审，否则全部交给AI自动提交很可能被拉入黑名单74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/997023

API

curl https://kongchang.com/api/v1/knowledge/claims/997023

MCP

get_claim(id=997023)