待验证50% 置信基准精确时间

研究者尝试了微调、权重加噪、基于梯度的触发器搜索和潜在对抗训练四种能力诱导方法，均未能成功诱导出隐藏能力

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

AI模型能"藏起"危险能力：加密后门如何击穿安全评估

涉及实体

微调concept 权重加噪concept 潜在对抗训练concept

相关事实

待验证测试过程中发现的多是预期之内的问题，但也挖出了传统工具此前无法识别的领域67% 相似待验证实验显示神经打分的效率与精确似然比以及针对特定应用定制的打分不相上下67% 相似待验证朴素的按置信度分层比较不可靠，因为未控制检测强度会导致结论被检测强度干扰66% 相似待验证单次实验中的涌现行为距离可靠的安全机制还有相当距离，是一个初步观察而非成熟解决方案65% 相似待验证复现实验的第一次尝试因训练epoch太少（模型仍处于欠拟合状态）而未能观察到退化现象，说明训练是否充分收敛是观察退化现象的前提65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1002126

API

curl https://kongchang.com/api/v1/knowledge/claims/1002126

MCP

get_claim(id=1002126)