Unverified50% confidenceFactExact time
闭源模型同样可能被越狱和被滥用，几乎所有主流闭源大模型都曾被用户通过越狱或提示词工程绕过安全护栏
1
Sources
50%
Confidence
Long-term
Relevance
8/7/2026
First Seen
Sources
Related Claims
Unverified过度封锁本身就是一种安全风险，因为它拦截防守方使人无法测试系统和发布补丁，而恶意行为者仍可使用其他模型包括开源模型74% similarVerified开源模型权重一旦公开，攻击者可以通过微调（fine-tuning）移除模型的安全限制72% similarUnverified一旦模型权重公开发布，任何人都可以下载、微调并移除安全对齐措施，传统的守门人模式失效67% similarUnverifiedSTRIDE 模型（仿冒、篡改、抵赖、信息泄露、拒绝服务、权限提升）是威胁建模中最广泛使用的方法论之一66% similarUnverified通过精心设计的越狱提示词（Jailbreak Prompts），攻击者可绕过主流LLM的安全护栏使其生成有害内容65% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/700093API
curl https://kongchang.com/api/v1/knowledge/claims/700093MCP
get_claim(id=700093)