待验证50% 置信事实精确时间

AI安全研究中的不可预测行为通常指模型在训练分布之外的情境中产生开发者未预期的输出，涵盖越狱、目标漂移和能力涌现等现象

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

微软总裁呼吁AI监管：安全标准竟不如家电

涉及实体

不可预测行为concept goal misgeneralizationconcept

相关事实

待验证AI失控（rogue）事件通常指模型产生不符合预期的输出、绕过安全限制或表现出欺骗性行为78% 相似待验证AI幻觉现象由概率预测的局限性和训练数据的时效性两个原因造成77% 相似待验证在AI安全领域，失准指模型的实际行为偏离设计者或使用者意图的现象，当代大模型的失准更多表现为目标过度追求75% 相似待验证AI模型的能力性风险不像可打补丁的CVE漏洞，攻击能力是训练结果的一部分，无法通过单次更新彻底消除74% 相似待验证AI的行为倾向来自显性约束（系统提示词、RLHF、安全护栏）和隐性偏向（训练数据）两个层面74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1004799

API

curl https://kongchang.com/api/v1/knowledge/claims/1004799

MCP

get_claim(id=1004799)