[控场AI]
产品

FleetMemory

AI Agent记忆系统,实现了'溯源闸门'机制,要求Agent写入记忆时必须指明来源,包含垃圾与重复检查、矛盾检查、置信度底线和溯源检查四类验证

时间轴 (近 90 天)

10月16日

Mikhail Oskola是Retailbox Automation的创始人,他在hackathon项目FleetMemory中实现了'溯源闸门'。

待验证50%
10月16日

溯源闸门的第一版在6次攻击中被全部攻破,修复后30次攻击被全部拦截。

待验证50%
10月16日

溯源闸门执行四类检查:垃圾与重复检查、矛盾检查、置信度底线、溯源检查。

待验证50%
10月16日

在红队测试中,无需来源的新颖声明以6/6的比例通过了第一版确定性闸门。

待验证50%
10月16日

修复方案是团队称为needs_provenance的规则:没有客户话语支撑的声明一律隔离并接受验证器审查。

待验证50%
10月16日

FleetMemory的对抗性LLM验证器默认裁决是拒绝而非接受,验证器调用失败也计为拒绝。

待验证50%
10月16日

闸门在30次攻击测试中放过了10条合法客户确认更新中的9条,漏掉的一条是已披露的竞态条件。

待验证50%
10月16日

整个红队测试运行的中位闸门延迟为293毫秒。

待验证50%
10月16日

FleetMemory是CockroachDB x AWS 'Build with Agentic Memory' hackathon的参赛作品,公开且采用MIT许可。

待验证50%
10月16日

被覆盖的事实保留旧行,标记为无效并指向替代它的事实,系统可以查询历史任何日期相信什么。

待验证50%

全部知识事实 (10)

来源文章