待验证70% 置信事实精确时间
随着模型规模和能力的持续扩大，人类对AI系统内部决策机制的理解并未同步提升
2
来源数
70%
置信度
中期 (~90 天)
时效性
2026/9/5
首次发现
有效期至：2026/12/4
来源
涉及实体
相关事实
待验证对于AI应用开发者而言，在构建涉及人际交互的系统时不能仅凭模型的整体表现来判断其社交能力，因为一个在策略选择上表现优异的模型可能在理解用户真实意图时仍然犯错。78% 相似已验证对齐问题的核心困难在于如何确保持续自我改进的AI系统在每次迭代后仍遵循人类预期的目标与价值观77% 相似待验证AI不替代判断，但把假设生成和验证的循环压缩到人类跟不上的速度。76% 相似待验证AI智能体的行动速度、持续时间和处理规模已超出人类能够合理审查的范围，导致监督失灵76% 相似已验证AI对齐（Alignment）关注的核心问题是模型是否真正理解并执行了人类的意图，而非钻规则空子或产生偏离目标的行为75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/862077API
curl https://kongchang.com/api/v1/knowledge/claims/862077MCP
get_claim(id=862077)