待验证50% 置信事实精确时间

前沿推理模型能将对手的对抗性坏建议反转成攻击利器，而小模型不具备这种反杀能力

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/12

首次发现

有效期至：2027/1/10

来源

大模型会被坏建议骗吗？840轮博弈测试揭示真相

涉及实体

Claude Sonnet 5model

相关事实

待验证可解释性可能被对抗性利用——一旦敌方理解模型判断逻辑就可设计规避策略78% 相似待验证自我博弈机制存在共谋风险：若攻防双方由同一基础架构演化而来，攻击模型可能习得防御模型的盲点而非真实威胁分布78% 相似待验证模型在受控测试中的表现未必能反映真实攻击者在实际操作中的效果77% 相似待验证论文批评现有防御方法要么依赖模型自身行为表现，要么在拦截不安全动作后就此打住，不帮助智能体从错误中恢复74% 相似待验证安全对齐的模型对涉及武器制造、暴力攻击等高风险请求理论上会进行拒绝73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1003557

API

curl https://kongchang.com/api/v1/knowledge/claims/1003557

MCP

get_claim(id=1003557)