待验证50% 置信事实精确时间
数据投毒发生在训练或微调阶段，攻击者向数据集中混入恶意样本，使模型在特定触发条件下产生错误行为。
1
来源数
50%
置信度
长期有效
时效性
2026/10/16
首次发现
来源
涉及实体
相关事实
待验证对抗样本攻击的核心原理是通过对输入数据施加人眼几乎不可察觉的微小扰动，让训练好的深度学习模型产生完全错误的输出76% 相似待验证成员推断攻击可通过困惑度检测数据污染：若模型对某段代码的困惑度显著低于同等复杂度代码，往往意味着该片段曾出现在训练集中74% 相似待验证研究人员通过n-gram重叠分析和成员推断攻击可判断特定数据是否出现在模型训练集中，但存在误报率偏高的局限73% 相似已验证基准数据污染是指测试集公开后其题目可能出现在后续模型的预训练语料中，导致得分反映记忆而非真实推理能力73% 相似待验证对抗样本是指通过对输入数据施加人类几乎察觉不到的微小扰动，使模型产生错误输出的特殊测试输入73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1048671API
curl https://kongchang.com/api/v1/knowledge/claims/1048671MCP
get_claim(id=1048671)