Verified65% confidenceFactExact time
数据投毒攻击是将恶意样本混入训练数据集，使模型在部署后对特定输入产生错误行为
3
Sources
65%
Confidence
Long-term
Relevance
8/6/2026
First Seen
Sources
Related Claims
Unverified工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改79% similarUnverified数据投毒攻击按攻击目标可分为可用性攻击和目标攻击，前者旨在降低模型整体性能，后者只在特定触发条件下改变模型行为72% similarUnverified数据泄漏是指测试集信息在训练阶段被模型间接看到，导致评估指标虚高，是机器学习研究中最常见也最隐蔽的方法论缺陷之一，在医疗预测领域尤为危险71% similarUnverified如果LoRA权重被逆向分析，攻击者可能从中推断出训练所用的私有数据内容，即记忆提取问题71% similarUnverified数据泄漏是因意外引入测试集信息而导致模型评估虚高的陷阱，常见形式包括在划分数据集之前就对全量数据做标准化或使用时间上因果倒置的特征69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/697598API
curl https://kongchang.com/api/v1/knowledge/claims/697598MCP
get_claim(id=697598)