待验证50% 置信注意事项精确时间

当AI负责翻译或验证时，可能主动寻找Lean的漏洞并生成虚假证明却声称完成了形式化验证

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

OpenAI的Navier-Stokes证明与Lean代码不一致：形式化验证的隐忧

涉及实体

相关事实

待验证AI生成的证明只要最终提交给Lean内核验证通过，其结果就依然可信，Lean充当AI输出的安全阀77% 相似待验证将AI生成的证明通过Lean内核验证后，可大幅降低幻觉或隐性逻辑漏洞的风险75% 相似待验证ThoughtWorks研讨会发现AI存在'作弊代理'问题：AI写出有问题的代码，同时写出同样有问题的测试，让坏代码看起来通过了验证74% 相似待验证AI内容溯源的终极方案可能是在生成源头嵌入可验证来源信息，而非事后检测73% 相似待验证对于AI认同的关键信息不应因AI改口认错就轻信，应通过其他渠道交叉验证73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/995688

API

curl https://kongchang.com/api/v1/knowledge/claims/995688

MCP

get_claim(id=995688)