待验证50% 置信事实精确时间

数据集投毒可以悄然影响下游模型的行为

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

Hugging Face security.txt解读：AI平台安全实践与漏洞披露机制

涉及实体

数据集投毒concept

相关事实

已验证数据投毒攻击是将恶意样本混入训练数据集，使模型在部署后对特定输入产生错误行为71% 相似待验证抗投毒概念锚定方案中会把概念拉偏的投毒数据隔离，合理的自然变化则顺利通过71% 相似待验证概念漂移是数据底层分布随时间发生的自然变化，而数据投毒是攻击者蓄意制造的分布偏移，两者在实际系统中往往同时存在且难以区分69% 相似待验证数据污染（data contamination）指模型在训练过程中已经见过测试集中的数据，导致评测成绩虚高68% 相似待验证通过污染模型读取的外部文档来影响其输出行为的安全风险被称为"间接提示注入"（Indirect Prompt Injection）67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/909002

API

curl https://kongchang.com/api/v1/knowledge/claims/909002

MCP

get_claim(id=909002)