[控场AI]
概念provenance gate

溯源闸门

一种AI Agent记忆写入安全机制,要求Agent提议的事实必须指明来源才能写入记忆,执行垃圾与重复检查、矛盾检查、置信度底线和溯源检查四类验证

时间轴 (近 90 天)

10月16日

溯源闸门的第一版在6次攻击中被全部攻破,修复后30次攻击被全部拦截。

待验证50%
10月16日

溯源闸门执行四类检查:垃圾与重复检查、矛盾检查、置信度底线、溯源检查。

待验证50%
10月16日

闸门在30次攻击测试中放过了10条合法客户确认更新中的9条,漏掉的一条是已披露的竞态条件。

待验证50%

全部知识事实 (3)

来源文章