Unverified50% confidenceFactExact time
2023年多项研究已证明，即使是简单的白色文字隐藏指令也能有效欺骗主流RAG系统
1
Sources
50%
Confidence
Long-term
Relevance
8/11/2026
First Seen
Sources
Related Claims
Unverified2023年发表在《Nature Medicine》的研究指出，即使使用RAG技术将原始转录文本作为上下文，在数字和专有名词密集的医疗文本中仍存在不可忽视的错误率66% similarUnverified当前RAG系统的检索模块主要依赖语义相关度而非信源可信度筛选文档，这是其在事实核查场景下的核心架构性缺陷63% similarUnverified文本分块过大会稀释检索精度，过小会导致语义不完整，分块策略直接决定RAG系统的检索质量61% similarUnverified检索增强生成（RAG）技术可以通过引入外部知识源部分缓解幻觉问题，但在需要深度代码理解的漏洞分析场景中效果有限61% similarUnverified2023年研究人员已证明可以通过向量数据库中的污染数据劫持RAG系统的行为61% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/731081API
curl https://kongchang.com/api/v1/knowledge/claims/731081MCP
get_claim(id=731081)