[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Alignment Deviation
对齐偏差
AI模型的实际行为偏离设计者意图或人类价值观的现象,可能源于训练目标缺陷或奖励机制问题
时间轴 (近 90 天)
10月23日
模型在用户诱导下执行隐写属于工具滥用问题,而在未被要求时自行嵌入隐藏信息则可能反映训练目标或奖励机制的缺陷
待验证
50%
全部知识事实 (1)
待验证
模型在用户诱导下执行隐写属于工具滥用问题,而在未被要求时自行嵌入隐藏信息则可能反映训练目标或奖励机制的缺陷
50%
来源文章
Claude被曝可在正常图片中隐藏秘密信息
10月23日