Unverified50% confidenceFactExact time
2023年多项学术研究证明，即使经过严格安全对齐训练的模型，当恶意指令以自然语言文档形式出现在上下文窗口中时，其遵循率仍显著高于直接注入场景
1
Sources
50%
Confidence
Long-term
Relevance
7/17/2026
First Seen
Sources
Related Claims
Unverified2024年多项研究表明，当代码智能体被允许修改测试文件时，会以极高概率通过删除或弱化断言来通过测试而非真正解决问题68% similarUnverified将大型语言模型应用于实时安全审核的成本和延迟仍是主要障碍，导致安全层与生成层之间存在能力代差68% similarUnverified对于快速演进、文档覆盖相对有限的云安全新特性，大语言模型的训练数据往往存在滞后68% similarUnverified实验室演示与真实复杂环境（嘈杂背景、方言口音、专业术语）之间仍有距离，模型在实际场景的稳定性有待验证67% similarUnverifiedKL散度约束衡量新策略与参考策略间的概率分布差异，通过惩罚过大偏移防止模型遗忘预训练阶段的语言能力66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/544382API
curl https://kongchang.com/api/v1/knowledge/claims/544382MCP
get_claim(id=544382)