待验证50% 置信事实精确时间

2023年多项研究证明，即使经过RLHF对齐的模型也难以完全抵抗精心设计的间接提示词注入

1

来源数

50%

置信度

长期有效

时效性

2026/7/17

首次发现

来源

Claude Code云端VM的正确打开方式：上下文工程与并行Agent编排

相关事实

待验证仅靠微调阶段的RLHF或许永远无法产生真正鲁棒的安全对齐73% 相似待验证研究表明RLHF在模型残差流中留下的安全拒绝行为呈现低秩线性结构，主要分布在少数几个主方向上，因此易被正交投影移除71% 相似已验证2024年多项学术研究表明当前主流LLM对精心设计的提示注入攻击的抵抗能力仍然有限71% 相似待验证2023年多项研究证明，对同一基准采用不同措辞重新提问，部分模型表现会显著下滑68% 相似待验证不同厂商在RLHF阶段对安全性与有用性的权重取舍不同，过于强调规避风险会使模型给出保守、模糊、附带免责声明的回答68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/543819

API

curl https://kongchang.com/api/v1/knowledge/claims/543819

MCP

get_claim(id=543819)