待验证50% 置信注意事项精确时间

软 Token 存在对抗性软提示攻击风险，攻击者可在嵌入空间构造向量操纵冻结 LLM，范数裁剪可作为缓解手段但无法完全消除

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

REMORY：32个残差Token如何压缩8K对话上下文

涉及实体

REMORYconcept 对抗性软提示concept

相关事实

待验证CALM 只对违规的 token 表示进行最小程度的编辑，将其朝安全一侧移动，并抑制与不安全方向正向对齐的残差分量69% 相似待验证静默补丁本意是降低风险，但实际可能因延误用户主动防御而扩大攻击面68% 相似待验证研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移65% 相似待验证沙箱隔离设计可限制代理遭遇恶意提示注入（prompt injection）攻击时的影响范围65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/998490

API

curl https://kongchang.com/api/v1/knowledge/claims/998490

MCP

get_claim(id=998490)