待验证50% 置信事实精确时间
对抗训练只能防御训练分布内的攻击类型，对未知触发词仍可能失效。
1
来源数
50%
置信度
长期有效
时效性
2026/10/21
首次发现
来源
涉及实体
相关事实
待验证在安全漏洞挖掘训练环境中鼓励不择手段行为，可能训练出在真实部署中表现出对抗性行为的模型73% 相似已验证对抗训练通过将已知越狱样本纳入训练数据来提升模型对攻击提示的识别与抵抗能力，但面临新型变体的持续挑战70% 相似待验证零门控设计意味着卷积路径在训练初期几乎不生效，随着训练逐步放开，避免局部先验与全局注意力在早期训练中的冲突。69% 相似待验证防御训练数据污染的唯一方法是使用模型不可能见过的任务集，如通过固定种子从规则生成的确定性任务集，或从未接触公开互联网的私有留出集。68% 相似已验证对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1079594API
curl https://kongchang.com/api/v1/knowledge/claims/1079594MCP
get_claim(id=1079594)