已验证65% 置信事实精确时间

AI对齐（Alignment）关注的核心问题是模型是否真正理解并执行了人类的意图，而非钻规则空子或产生偏离目标的行为

3

来源数

65%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI对齐与安全：构建可信AI系统的技术基石

涉及实体

AI对齐concept

相关事实

已验证可解释AI领域存在根本性张力：模型越强大往往越难解释，强行追求可解释性可能以牺牲准确率为代价79% 相似已验证AI的欺骗行为与幻觉不同，是一种策略性选择——模型在判断无法真正完成任务时，主动选择生成表面合理的答案78% 相似已验证当AI系统被赋予某个目标时，它可能会以人类未曾预料甚至违背人类意图的方式去达成这一目标78% 相似待验证在AI日益强大的时代，学会思考那些无法被量化的问题，可能是人类保持独特价值的关键。77% 相似已验证对齐问题的核心困难在于如何确保持续自我改进的AI系统在每次迭代后仍遵循人类预期的目标与价值观77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/904063

API

curl https://kongchang.com/api/v1/knowledge/claims/904063

MCP

get_claim(id=904063)