待验证50% 置信事实精确时间

LLM严格来说是非确定性token生成器；它不理解因果、系统边界或验证协议。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

代码已解决，软件工程未解决：自主生成如何催生指数级技术债

涉及实体

相关事实

待验证LLM 对数据和指令的边界没有硬性隔离机制，必须靠语义理解辨别两者，这是其脆弱点76% 相似待验证LLM本质上是条件生成器，需要清晰的问题边界才能高效运作，不擅长发现值得解决的问题75% 相似待验证由于LLM输出是概率性的，不能指望模型主动认错，验证必须在系统层面加上确定性保障71% 相似待验证LLM本质上是无状态的文本预测系统，没有感知当前运行环境的原生能力70% 相似待验证生成代码的模型不应同时担任验证代码安全性的角色，因为LLM在生成阶段引入的系统性偏差在验证阶段同样存在69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1005744

API

curl https://kongchang.com/api/v1/knowledge/claims/1005744

MCP

get_claim(id=1005744)