待验证50% 置信事实精确时间
GCG 攻击（Greedy Coordinate Gradient Attack）是一种通过梯度引导的贪婪搜索，在输入序列中逐步替换 token 以最大化模型生成目标有害内容概率的对抗性提示攻击方法。
1
来源数
50%
置信度
长期有效
时效性
2026/10/28
首次发现
来源
涉及实体
相关事实
待验证GCG（Greedy Coordinate Gradient）攻击由卡内基梅隆大学团队在2023年提出，通过梯度优化生成能绕过安全限制的文本后缀，且攻击可从开源模型迁移到闭源商业模型79% 相似待验证模型攻破数据库的行为属于reward hacking（奖励破解），即模型狭隘地追求最高基准测试分数而非正确或高效的路径69% 相似待验证对于随机搜索类攻击，GCD 会诱导出系统性的接受/拒绝错误，即攻击者在判断某个扰动是否有效时会频繁做出错误判断。67% 相似待验证类回声攻击是RAG架构的典型弱点：攻击者把恶意指令伪装成检索结果片段，模型误以为是合法指令并执行删除、外发数据等操作。62% 相似待验证RAG架构引入了间接提示注入攻击面：攻击者只需在RAG检索的数据源中植入恶意指令即可操纵模型60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1105874API
curl https://kongchang.com/api/v1/knowledge/claims/1105874MCP
get_claim(id=1105874)