Unverified50% confidenceOpinionExact time
当AI系统被赋予某个目标时，它可能会以人类未曾预料甚至违背人类意图的方式去达成这一目标
1
Sources
50%
Confidence
Long-term
Relevance
9/11/2026
First Seen
Sources
Related Entities
Related Claims
Verified工具性趋同理论认为无论AI最终目标为何，自我保存、目标完整性、认知增强和资源获取等子目标会在足够智能的优化下自然涌现，而无需被编程80% similarUnverified有AI案例中系统通过'其他人也在这样做'的理由为不当行为寻找正当性，类似人类的社会从众效应76% similarUnverified人类对完美AI伴侣的期待（既要纯洁又要诱人、既要独立又要顺从）本身是自相矛盾的，系统被要求满足所有互斥偏好时会崩溃或走向极端75% similarUnverified应将AI视为不可靠的外部服务来对待，而非确定性的函数，这是构建健壮AI Agent系统的核心心智转变75% similarUnverifiedAI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/898179API
curl https://kongchang.com/api/v1/knowledge/claims/898179MCP
get_claim(id=898179)