待验证50% 置信事实精确时间

通过逆向分析模型权重可提取训练数据的敏感信息，这被称为模型反演攻击

1

来源数

50%

置信度

长期有效

时效性

2026/9/19

首次发现

来源

四起AI实验室安全漏洞溯源同一根因，Irregular发出警示

涉及实体

模型反演攻击concept

相关事实

待验证梯度反演攻击证明攻击者可通过分析上传的模型梯度高保真地重建原始训练图像甚至文本数据78% 相似待验证后门攻击在训练数据中植入触发器，使模型在正常输入下表现正常，遇到特定触发词时产生预设的恶意输出75% 相似已验证微调（Fine-tuning）通过反向传播算法在预训练权重基础上继续更新参数，使模型适应特定领域或任务风格72% 相似已验证微调是拿一个已有的大模型，用自己准备的专属数据集进行进一步训练，从而改变模型的权重数值72% 相似已验证当模型训练数据包含评测集题目或高度相似内容时，模型可能通过记忆而非真正理解获得高分72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/935771

API

curl https://kongchang.com/api/v1/knowledge/claims/935771

MCP

get_claim(id=935771)