Unverified50% confidenceBenchmarkExact time
研究表明GPT-4、Claude等顶级模型在精心构造的对抗性攻击下成功率有时超过50%
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/11/2026
First Seen
Valid until: 10/9/2026
Sources
Prismata解析：如何防御Web智能体跨站提示注入攻击
hackernewshackernews7/10/2026
Related Claims
Unverified2023年多项学术研究证明GPT-4、Claude等主流大模型均对提示注入攻击存在不同程度的脆弱性81% similarUnverified来自ETH Zurich、Google DeepMind等机构的研究证明GPT-4、Claude等顶级模型在对抗性提示面前存在显著脆弱性，成功率有时超过50%81% similarUnverified该论文通过在提示词末尾附加自动生成的对抗性字符串，成功让GPT-4、Claude等多个顶级模型产生有害输出，且该攻击可跨模型迁移71% similarUnverifiedGPT-4和Claude 3.5被列举为能力足够强大的底层模型示例70% similarUnverified早期GPT-4在SWE-bench上的解决率不足2%，而近期顶尖模型已突破50%70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/487954API
curl https://kongchang.com/api/v1/knowledge/claims/487954MCP
get_claim(id=487954)