待验证50% 置信观点精确时间

如果模型能理解并响应负面信号，研究者可利用这一机制引导模型行为避免有害输出

1

来源数

50%

置信度

长期有效

时效性

2026/9/19

首次发现

来源

AI也会"怕疼"？新论文揭示模型的痛觉规避行为

涉及实体

AI对齐concept

相关事实

待验证对齐训练消除某类有害输出后，模型可能学会更隐晦的表达方式73% 相似待验证Models can be trained with a behavioral tendency of 'when uncertain, better not to act' as a risk-avoidance mechanism encoded into weights through reward signal design72% 相似待验证2024年已有安全研究者证明可以在不显著影响模型正常性能的前提下，通过微调在模型中植入特定触发模式，即模型后门攻击或木马模型71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/934959

API

curl https://kongchang.com/api/v1/knowledge/claims/934959

MCP

get_claim(id=934959)