Unverified50% confidenceDecision RuleExact time
在网络安全领域使用LLM作为裁判是有缺陷的，因为LLM总是会声称自己成功完成了攻击，必须为每个能力层级设计确定性的评分裁判
1
Sources
50%
Confidence
Long-term
Relevance
8/19/2026
First Seen
Sources
Related Claims
Unverified由于LLM行为的非确定性和上下文敏感性，LLM智能体供应链攻击的检测难度比传统软件供应链攻击更高77% similarVerified提示注入难以防御的根本原因在于LLM无法可靠区分数据与指令74% similarUnverified当前LLM存在系统性弱点：倾向于迎合提示词中的预设前提（确认偏误），而非独立验证代码正确性72% similarUnverifiedLLM在不同温度参数、上下文长度、随机种子下可能对同一攻击payload给出截然不同的响应，因此LLM安全测试的通过标准本质上是统计性的70% similarUnverified在LLM系统中，改几个字的提示词就能引入风险，且这类改动往往不走严格的安全评审66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/772897API
curl https://kongchang.com/api/v1/knowledge/claims/772897MCP
get_claim(id=772897)