待验证50% 置信权衡取舍精确时间

让模型更安全与让模型更好用之间存在真实的权衡，而非纯粹正和游戏

1

来源数

50%

置信度

长期有效

时效性

2026/7/25

首次发现

来源

Gemini 3.0 Flash比3.5更受欢迎？揭秘AI「对齐税」真相

redditr/Bard2026/7/12

相关事实

待验证对于足够强大的模型，清晰传达意图和上下文比提供详细操作规程更有效72% 相似待验证AI对齐研究中，模型倾向回避高度不确定性的开放问题的现象被称为奖励模型过拟合或规范游戏69% 相似待验证开启权限确认时模型表现更笨，完全bypass权限时模型探索更自由、创造力更强、能持续运行更久69% 相似待验证提示注入针对系统架构，越狱针对模型价值观对齐本身，这是两类攻击的根本区别68% 相似待验证模型竞赛的胜负取决于能力、安全与生态之间的可持续平衡，而非发布速度68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/611258

API

curl https://kongchang.com/api/v1/knowledge/claims/611258

MCP

get_claim(id=611258)