共 2 篇相关文章
ShallowDefend 提出 Assess→Decide→Respond 框架，利用安全对齐的浅层特性，在多轮对话中先占据高杠杆 token 区间，用强化学习训练显式安全决策，在十四个基准上取得最强多轮安全表现。
论文揭示大语言模型的传递性行为耦合：在良性能力上微调可能静默激活预训练语料中多跳埋藏的攻击向量。本文解析形成机制、生产影响与对比激活探测缓解方案。
