待验证50% 置信决策规则精确时间
提交漏洞发现时需包含涉及的智能体和模型、确切的提示词或对话序列、实际发生的情况以及预期应发生的情况,可复现步骤比截图更有价值。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
涉及实体
相关事实
待验证在因子挖掘场景中,候选因子需要携带统计显著性、数据覆盖率等元信息传递给回测智能体以便做出合理评估72% 相似待验证任何让指令和不可信数据共享同一上下文的场景(如提示注入、RAG、智能体)都存在模型可能遵循被告知要忽略信息的风险72% 相似待验证为追踪和复现失败,每个评估用例需要记录问题、预期答案、检索到的文档ID和分块、相似度分数、提示词和模型配置、生成答案、指标结果、延迟和Token用量,同时应避免记录密钥或敏感用户数据。71% 相似待验证捕获异常后应将错误信息原封不动返回给大模型而非静默吞掉,使模型能够自我反思、调整格式并重试,提升 Agent 鲁棒性71% 相似待验证工具调用使攻击面从让模型说错话升级为让模型做错事,危害从信息误导上升为实质性的数据访问和系统篡改70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1039683API
curl https://kongchang.com/api/v1/knowledge/claims/1039683MCP
get_claim(id=1039683)