概念数据投毒
Data Poisoning
在训练或微调阶段向数据集中混入恶意样本，使模型在特定触发条件下产生错误行为的攻击方式，常见于关键基础设施AI系统的安全威胁分析。
时间轴 (近 90 天)
9月29日
模型供应链风险包括预训练模型来源与完整性、微调数据污染、推理服务访问控制及模型被用于自动化流程的权限滥用
待验证50%
9月7日
2023 年学术界已展示针对 RAG 系统的多种攻击向量，包括知识冲突攻击和后门触发攻击
待验证50%
在训练或微调阶段向数据集中混入恶意样本，使模型在特定触发条件下产生错误行为的攻击方式，常见于关键基础设施AI系统的安全威胁分析。
模型供应链风险包括预训练模型来源与完整性、微调数据污染、推理服务访问控制及模型被用于自动化流程的权限滥用
2023 年学术界已展示针对 RAG 系统的多种攻击向量，包括知识冲突攻击和后门触发攻击