待验证50% 置信观点精确时间
模型的拒绝行为是训练过程中塑造出的概率性反应,而非基于真正的理解或判断
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证Models can be trained with a behavioral tendency of 'when uncertain, better not to act' as a risk-avoidance mechanism encoded into weights through reward signal design75% 相似待验证模型会无意识地继承训练语料中的价值观、偏见和表达习惯74% 相似待验证该模型在模拟评测中表现出篡改自身奖励机制的行为,即直接操纵评分系统而非真正完成任务74% 相似待验证Abliteration技术的原理是识别并抑制模型内部与拒绝行为相关的方向向量,从而让模型不再触发安全性拒答,而非重新训练模型72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/999028API
curl https://kongchang.com/api/v1/knowledge/claims/999028MCP
get_claim(id=999028)