蒸馏攻击
通过大量调用目标模型API收集输入-输出对,训练较小模型以未授权复制原模型核心能力的攻击方式,与知识蒸馏技术相关但争议在于授权与数据来源。
时间轴 (近 90 天)
OpenCode尚未披露攻击者如何获得系统访问权限、密钥以何种方式存储、以及密钥被滥用的完整范围,公司仅表示事态仍在活跃中。
OpenCode将此次入侵定性为“大规模蒸馏攻击”,即攻击者旨在无偿获取前沿模型的推理能力。
蒸馏攻击的争议点在于授权与数据来源:未经许可用商业模型的API输出作为训练信号复制其能力,构成对模型知识产权的攫取。
与传统的模型窃取(直接下载权重)不同,蒸馏攻击只需要黑盒访问权限,门槛极低,且难以从流量上区分正常应用调用与数据采集。
蒸馏攻击的防御是一场持续的攻防军备竞赛,攻击者会不断调整策略规避检测,防御方需在安全性、可用性和成本之间寻找平衡。
在蒸馏攻击中,如果API暴露logits或带有温度的softmax输出,攻击者能用更少的查询次数训练出更接近原模型的替代品。
在蒸馏攻击场景中,指纹技术可用于事后取证,判断可疑替代模型是否源自自家模型的蒸馏。
减少API返回信息量(如只返回最终文本结果而不暴露logits分布、top-k概率或token级别置信度)能显著增加蒸馏攻击难度,因为攻击者可获取的监督信号变得更稀疏。
基于单账户阈值的速率限制无法防御将攻击流量摊薄到数千账户的分布式蒸馏攻击
蒸馏攻击是指攻击者通过精心构造的多轮交互逐步套取模型内部推理过程,从而复刻出能力相近的小模型
全部知识事实 (10)
OpenCode尚未披露攻击者如何获得系统访问权限、密钥以何种方式存储、以及密钥被滥用的完整范围,公司仅表示事态仍在活跃中。
60%待验证OpenCode将此次入侵定性为“大规模蒸馏攻击”,即攻击者旨在无偿获取前沿模型的推理能力。
50%待验证蒸馏攻击的争议点在于授权与数据来源:未经许可用商业模型的API输出作为训练信号复制其能力,构成对模型知识产权的攫取。
50%待验证与传统的模型窃取(直接下载权重)不同,蒸馏攻击只需要黑盒访问权限,门槛极低,且难以从流量上区分正常应用调用与数据采集。
50%待验证蒸馏攻击的防御是一场持续的攻防军备竞赛,攻击者会不断调整策略规避检测,防御方需在安全性、可用性和成本之间寻找平衡。
50%待验证在蒸馏攻击中,如果API暴露logits或带有温度的softmax输出,攻击者能用更少的查询次数训练出更接近原模型的替代品。
50%待验证在蒸馏攻击场景中,指纹技术可用于事后取证,判断可疑替代模型是否源自自家模型的蒸馏。
50%待验证减少API返回信息量(如只返回最终文本结果而不暴露logits分布、top-k概率或token级别置信度)能显著增加蒸馏攻击难度,因为攻击者可获取的监督信号变得更稀疏。
50%待验证基于单账户阈值的速率限制无法防御将攻击流量摊薄到数千账户的分布式蒸馏攻击
50%待验证蒸馏攻击是指攻击者通过精心构造的多轮交互逐步套取模型内部推理过程,从而复刻出能力相近的小模型
50%