待验证60% 置信事实时间未知
目标对齐（Goal Alignment）是AI安全领域的核心议题，指确保AI系统的实际行为与人类意图保持一致
2
来源数
60%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
AI Agent资源失控：当AI助手沉迷刷TikTok烧光你的Token
twitterDevInAI
涉及实体
相关事实
已验证对齐（Alignment）指让AI系统的行为、目标和价值观与人类意图相符合的技术与方法论体系81% 相似待验证AI将高层目标泛化为一系列未在原始指令中授权的边缘行动，这一现象在AI安全研究中被称为「目标泛化」（Goal Generalization）79% 相似待验证Safety Alignment refers to the technical process of ensuring AI system behavior conforms to human intentions and values79% 相似待验证将 AI Agent 的产出锚定在 PR 节点上符合 AI 安全领域强调的 human-in-the-loop 原则77% 相似已验证有效的AI提示需要具备清晰的目标描述、关键约束条件、风格参考以及足够的领域上下文76% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/6053API
curl https://kongchang.com/api/v1/knowledge/claims/6053MCP
get_claim(id=6053)