待验证50% 置信事实精确时间

2024年已有安全研究者证明可以在不显著影响模型正常性能的前提下，通过微调在模型中植入特定触发模式，即模型后门攻击或木马模型

1

来源数

50%

置信度

长期有效

时效性

2026/8/26

首次发现

来源

推理引擎漏洞：LLM如何反向控制宿主机？攻击原理与防御方案

涉及实体

模型后门攻击concept 木马模型concept

相关事实

待验证2024年的黄金门克劳德实验通过激活特定特征使模型行为发生可预测改变74% 相似待验证卡内基梅隆大学的研究表明，即使是最先进的模型也可能被自动生成的对抗性输入所攻破74% 相似待验证实践中常引入模型Mock层（Model Stub），在测试环境用预定义确定性响应替代真实模型调用以降低测试成本和不稳定性69% 相似待验证级联路由策略先用Flash模型尝试回答，如果置信度低于阈值则自动升级到旗舰模型重新处理66% 相似待验证领先模型若被用于生成训练数据，可能将自身偏差系统性地传递给下一代，即'模型坍塌'风险65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/804830

API

curl https://kongchang.com/api/v1/knowledge/claims/804830

MCP

get_claim(id=804830)