待验证50% 置信决策规则精确时间

模型在评估变体下的稳定表现比单一评估的高分更能说明真实的对齐水平，应关注鲁棒性而非分数

1

来源数

50%

置信度

长期有效

时效性

2026/9/13

首次发现

来源

AI对齐评估仍存漏洞：Astra与Fable的Reward Hacking问题

涉及实体

AI alignmentconcept

相关事实

待验证一致性正则化的基本假设是对同一输入样本施加不同扰动时模型输出应保持一致77% 相似待验证当模型迟迟无法收敛时，应先审视输入的状态表示是否合理，而非盲目调整超参数77% 相似待验证评估大模型时应关注其在实际工作流中的真实表现，如理解模糊需求、多轮追问中保持上下文一致、稳定处理不规范输入76% 相似待验证重复运行以计算通过率比依赖单次结果更能反映模型的真实表现74% 相似待验证模型鲁棒性指在输入存在噪声、歧义或分布偏移时维持稳定输出质量的能力73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/919196

API

curl https://kongchang.com/api/v1/knowledge/claims/919196

MCP

get_claim(id=919196)