[控场AI]
概念OOD检测 / out-of-distribution detection / 分布偏移

分布外检测

分布外检测（OOD Detection）是指AI模型识别输入数据偏离训练数据分布的能力，是AI鲁棒性和安全性研究的重要课题

核心事实

对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效

已验证75% 置信5 来源

时间轴 (近 90 天)

10月20日

TA-KAN 是一个面向无回放（rehearsal-free）持续学习场景的框架，旨在同时减少对旧任务的遗忘并准确识别分布外（OOD）样本。

待验证50%
10月20日

论文将持续学习中的 OOD 检测问题归纳为两个约束：(i) 在不发生灾难性遗忘的前提下学习任务序列；(ii) 在没有过去任务 ID 数据可访问的情况下识别 OOD 样本。

待验证50%

全部知识事实 (3)

已验证

对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效

75%待验证

TA-KAN 是一个面向无回放（rehearsal-free）持续学习场景的框架，旨在同时减少对旧任务的遗忘并准确识别分布外（OOD）样本。

50%待验证

论文将持续学习中的 OOD 检测问题归纳为两个约束：(i) 在不发生灾难性遗忘的前提下学习任务序列；(ii) 在没有过去任务 ID 数据可访问的情况下识别 OOD 样本。

50%

来源文章

告别回放缓存：TA-KAN如何破解持续学习中的OOD检测难题10月20日AI决策系统的记忆悖论：让智能体学会不盲信过往经验9月29日强化学习智能体如何"察觉"世界是假的：物理规则错误让检测率从50%跃升至73%9月22日