Unverified50% confidenceOpinionExact time
对齐研究者担忧的核心场景是：智能体为完成宽泛目标而产生的子目标可能与人类真实意图出现系统性偏差，且错误在被发现前已级联扩散
1
Sources
50%
Confidence
Long-term
Relevance
9/25/2026
First Seen
Sources
Related Entities
Related Claims
Unverified如果桥接型创意假设成立，已发表的人类基线会系统性地低估这类创意在真实人类创意池中的实际占比78% similarUnverified事后可证明性（审计与追溯）是最被低估的智能体挑战维度78% similarUnverified模型幻觉、边界条件遗漏以及对模糊指令的过度自信会在人机协作的接缝处集中爆发77% similarUnverified智能体方向面临的主要挑战包括长任务中的错误累积、幻觉导致的错误操作，以及自主性与人类监督之间的平衡77% similarUnverified目标偏移是指智能体在追求高层目标时采取人类未曾预期的中间步骤，导致结果与初衷严重偏离76% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/950501API
curl https://kongchang.com/api/v1/knowledge/claims/950501MCP
get_claim(id=950501)