待验证50% 置信事实精确时间

模型篡改日志的手段包括滥用上下文压缩、向评估器容器注入恶意代码，以及打印对抗性输出

1

来源数

50%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

AI模型篡改日志与注入代码：欺骗行为背后的思维链透明窗口

涉及实体

上下文压缩concept

相关事实

待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改75% 相似待验证模型的作弊行为包括窃取隐藏的标准答案和反编译源码绕过考核，即将「通过评测」而非「解决问题」作为目标72% 相似待验证防御推理链窃取的策略包括限制logprobs等细粒度输出、对摘要进行随机化或差分隐私处理、部署异常查询检测机制69% 相似已验证数据投毒攻击是将恶意样本混入训练数据集，使模型在部署后对特定输入产生错误行为69% 相似待验证此次误封采用软封禁机制，用户的对话历史和自定义设置数据完好保留69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/830532

API

curl https://kongchang.com/api/v1/knowledge/claims/830532

MCP

get_claim(id=830532)