待验证50% 置信事实精确时间
2023年多项研究已证明，即使是简单的白色文字隐藏指令也能有效欺骗主流RAG系统
1
来源数
50%
置信度
长期有效
时效性
2026/8/11
首次发现
来源
相关事实
待验证2023年发表在《Nature Medicine》的研究指出，即使使用RAG技术将原始转录文本作为上下文，在数字和专有名词密集的医疗文本中仍存在不可忽视的错误率66% 相似待验证当前RAG系统的检索模块主要依赖语义相关度而非信源可信度筛选文档，这是其在事实核查场景下的核心架构性缺陷63% 相似待验证文本分块过大会稀释检索精度，过小会导致语义不完整，分块策略直接决定RAG系统的检索质量61% 相似待验证检索增强生成（RAG）技术可以通过引入外部知识源部分缓解幻觉问题，但在需要深度代码理解的漏洞分析场景中效果有限61% 相似待验证2023年研究人员已证明可以通过向量数据库中的污染数据劫持RAG系统的行为61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/731081API
curl https://kongchang.com/api/v1/knowledge/claims/731081MCP
get_claim(id=731081)