待验证50% 置信事实精确时间

两个预训练阶段的测量指标能够预测目标之间是协同还是冲突，但这一结论仅对人类标注的数据成立

1

来源数

50%

置信度

长期有效

时效性

2026/9/24

首次发现

来源

多目标对齐新研究：如何预测目标冲突并覆盖权衡取舍

涉及实体

Steerable Pluralistic Alignmentconcept

相关事实

待验证逐条检查模型在训练过程中的动作序列，可以判断高分来自真实能力提升还是对奖励机制的钻空子74% 相似待验证任何先优化表示再训练分类器的两阶段方法都需要仔细验证其代理目标与下游任务的对齐程度73% 相似待验证在智能体训练中，行为监控与结果监控同样重要，仅看通过率或得分不足以发现训练环境的设计缺陷73% 相似已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/946071

API

curl https://kongchang.com/api/v1/knowledge/claims/946071

MCP

get_claim(id=946071)