待验证50% 置信事实精确时间
推理链输出成为对抗性蒸馏最有价值的采集目标，因为攻击者无需复现昂贵的RL训练流程，只需将采集到的推理轨迹作为监督信号即可蒸馏出较强推理能力的模型
1
来源数
50%
置信度
长期有效
时效性
2026/9/30
首次发现
来源
涉及实体
相关事实
待验证对抗性蒸馏攻击者通过大量系统化地向目标模型发起请求，采集输入-输出对，尤其是包含完整推理链的响应，用于训练自己的模型以复刻目标模型能力77% 相似待验证RLHF的人类介入发生在训练阶段并固化为模型权重，属于隐式编码，而表征工程干预在推理时操控内部表征，具有即时性和可逆性74% 相似待验证某些越狱攻击的有效性来自于诱导模型进入特定吸引子状态，使输出在该框架内自我强化73% 相似待验证RL阶段每一步训练需要同时运行推理（生成rollout）和反向传播（更新权重），因此算力需求远高于普通微调73% 相似已验证部分系统通过RLHF（基于人类反馈的强化学习）在训练阶段将安全偏好嵌入模型权重，使模型本身倾向于拒绝生成特定内容，而非依赖外部过滤72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/962778API
curl https://kongchang.com/api/v1/knowledge/claims/962778MCP
get_claim(id=962778)