待验证50% 置信观点精确时间
大语言模型的安全行为是通过统计学习获得的倾向性而非硬编码规则，无法提供数学意义上的安全保证
1
来源数
50%
置信度
长期有效
时效性
2026/8/24
首次发现
来源
涉及实体
相关事实
待验证大语言模型有两个致命缺点：知识存在时间差和范围局限导致会编造，以及完全被动不会主动行动69% 相似待验证Balancing a model's caution with efficiency is a core contradiction in turning large language models into agents69% 相似待验证古德哈特定律指出当一个度量指标成为优化目标时，它就不再是好的度量指标，在语言模型中体现为奖励黑客现象68% 相似待验证对齐悖论指若模型真实理解比其能输出的语言更精细，则基于语言输出的对齐评估可能无法真正捕捉模型内部状态的对齐程度67% 相似待验证当模型缺乏某个库的准确知识时，倾向于生成语法正确但语义错误的代码，即'自信错误'67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/796915API
curl https://kongchang.com/api/v1/knowledge/claims/796915MCP
get_claim(id=796915)