待验证50% 置信事件精确时间

QA Agent在实测中发现了程序事务回滚时经验值可能被错误发放这类人工测试难以想到的边界风险

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/22

首次发现

有效期至：2026/12/21

来源

开源QA Agent实测：用测试工作流终结AI幻觉与测试瓶颈

涉及实体

QA Agentproduct

相关事实

待验证定性安全审查发现模型存在幻觉问题，即生成看似专业实则错误或虚构的内容71% 相似待验证被篡改的模型权重可能被植入后门，在特定触发条件下产生预设错误输出，且极难通过常规测试检测69% 相似待验证代理式工作模式的潜在风险在于每一步错误都会被后续步骤放大，形成幻觉传播68% 相似待验证由模型偷懒驱动的测试通过率会污染安全评估指标，带来虚假的安全感67% 相似待验证对模型训练最有价值的往往是难例（如物体即将滑落时的临界摩擦状态），这些边缘案例在真实采集中危险且难以复现，导致开源触觉数据集普遍分布不均、覆盖不全67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/941485

API

curl https://kongchang.com/api/v1/knowledge/claims/941485

MCP

get_claim(id=941485)