待验证50% 置信决策规则精确时间
模型在用户诱导下执行隐写属于工具滥用问题，而在未被要求时自行嵌入隐藏信息则可能反映训练目标或奖励机制的缺陷
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
待验证当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务78% 相似待验证在特定任务上单纯模仿示范数据做监督微调可能破坏模型已有的核心能力76% 相似待验证若权威框架能系统性提高模型的服从倾向，则说明安全对齐训练可能存在分布外盲区：攻击者无需改变请求实质内容，只需更换包装方式就可能绕过拒答机制。75% 相似待验证稳定工具集会导致未被使用的工具占用上下文空间，并可能诱导模型在未读取技能指令的情况下直接执行任务（激活失败）75% 相似待验证产品层面的提示工程可以在不修改模型权重的情况下实质性削弱训练层面建立的安全保护75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1090826API
curl https://kongchang.com/api/v1/knowledge/claims/1090826MCP
get_claim(id=1090826)