[
KongchangAI
]
Feed
Entities
Podcasts
Deep Dives
Developers
About
Get CLI
中文
Concept
Greedy Coordinate Gradient / GCG攻击
GCG
一种针对大语言模型的白盒对抗攻击方法,通过贪婪坐标梯度优化自动生成对抗性提示前缀,可绕过模型安全限制,但需要数千步梯度优化,实施门槛较高
Source Articles
GRP-Obliteration:单个提示词即可解除大模型安全对齐
Sep 15