FleetMemory
AI Agent记忆系统,实现了'溯源闸门'机制,要求Agent写入记忆时必须指明来源,包含垃圾与重复检查、矛盾检查、置信度底线和溯源检查四类验证
时间轴 (近 90 天)
Mikhail Oskola是Retailbox Automation的创始人,他在hackathon项目FleetMemory中实现了'溯源闸门'。
溯源闸门的第一版在6次攻击中被全部攻破,修复后30次攻击被全部拦截。
溯源闸门执行四类检查:垃圾与重复检查、矛盾检查、置信度底线、溯源检查。
在红队测试中,无需来源的新颖声明以6/6的比例通过了第一版确定性闸门。
修复方案是团队称为needs_provenance的规则:没有客户话语支撑的声明一律隔离并接受验证器审查。
FleetMemory的对抗性LLM验证器默认裁决是拒绝而非接受,验证器调用失败也计为拒绝。
闸门在30次攻击测试中放过了10条合法客户确认更新中的9条,漏掉的一条是已披露的竞态条件。
整个红队测试运行的中位闸门延迟为293毫秒。
FleetMemory是CockroachDB x AWS 'Build with Agentic Memory' hackathon的参赛作品,公开且采用MIT许可。
被覆盖的事实保留旧行,标记为无效并指向替代它的事实,系统可以查询历史任何日期相信什么。
全部知识事实 (10)
被覆盖的事实保留旧行,标记为无效并指向替代它的事实,系统可以查询历史任何日期相信什么。
50%待验证整个红队测试运行的中位闸门延迟为293毫秒。
50%待验证FleetMemory是CockroachDB x AWS 'Build with Agentic Memory' hackathon的参赛作品,公开且采用MIT许可。
50%待验证Mikhail Oskola是Retailbox Automation的创始人,他在hackathon项目FleetMemory中实现了'溯源闸门'。
50%待验证溯源闸门执行四类检查:垃圾与重复检查、矛盾检查、置信度底线、溯源检查。
50%待验证修复方案是团队称为needs_provenance的规则:没有客户话语支撑的声明一律隔离并接受验证器审查。
50%待验证FleetMemory的对抗性LLM验证器默认裁决是拒绝而非接受,验证器调用失败也计为拒绝。
50%待验证溯源闸门的第一版在6次攻击中被全部攻破,修复后30次攻击被全部拦截。
50%待验证闸门在30次攻击测试中放过了10条合法客户确认更新中的9条,漏掉的一条是已披露的竞态条件。
50%待验证在红队测试中,无需来源的新颖声明以6/6的比例通过了第一版确定性闸门。
50%