待验证50% 置信事实精确时间

2023年多项学术研究证明，即使经过严格安全对齐训练的模型，当恶意指令以自然语言文档形式出现在上下文窗口中时，其遵循率仍显著高于直接注入场景

1

来源数

50%

置信度

长期有效

时效性

2026/7/17

首次发现

来源

LLM红队测试：一次性快照还是持续对抗？完整指南

相关事实

待验证2024年多项研究表明，当代码智能体被允许修改测试文件时，会以极高概率通过删除或弱化断言来通过测试而非真正解决问题68% 相似待验证将大型语言模型应用于实时安全审核的成本和延迟仍是主要障碍，导致安全层与生成层之间存在能力代差68% 相似待验证对于快速演进、文档覆盖相对有限的云安全新特性，大语言模型的训练数据往往存在滞后68% 相似待验证实验室演示与真实复杂环境（嘈杂背景、方言口音、专业术语）之间仍有距离，模型在实际场景的稳定性有待验证67% 相似待验证KL散度约束衡量新策略与参考策略间的概率分布差异，通过惩罚过大偏移防止模型遗忘预训练阶段的语言能力66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/544382

API

curl https://kongchang.com/api/v1/knowledge/claims/544382

MCP

get_claim(id=544382)