待验证70% 置信观点时间未知
大模型对指令的敏感度呈非线性分布——主干指令的微小改动可能引发全局行为漂移，而在末尾追加具体的边界条件则相对安全
1
来源数
70%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
Agent Skill维护避坑：Perplexity「超距作用」防御与评测实战指南
bilibili慢学AI
涉及实体
相关事实
待验证研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移78% 相似待验证底层模型更换后，即便微小的输出分布变化也可能导致此前校准的安全护栏过度拦截或防护失效，需要重新标注和调试77% 相似待验证负向约束通过明确排除不期望的输出收窄概率空间，与正向指令同等重要，可减少模型创造性发挥的偏差76% 相似待验证通过'不要按常规套路'这样的约束性提示词，本质上是在调整模型的采样分布，降低高频方案的输出权重，迫使模型探索低概率但可能更具创新性的输出区域75% 相似待验证参数量较小的本地模型可能出现指令漂移，更可靠的方案是结合引用溯源和答案验证层构建多重防护74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/24808API
curl https://kongchang.com/api/v1/knowledge/claims/24808MCP
get_claim(id=24808)