Edgee Codex Compressor V2
Edgee推出的上下文压缩网关产品,通过在客户端与模型之间插入中间层对上下文进行智能精简,在不牺牲输出质量的前提下降低OpenAI Codex的使用成本
Timeline (last 90 days)
Edgee Codex Compressor V2 通过压缩传入模型的上下文来降低 OpenAI Codex 使用成本
Edgee Codex Compressor V2 在 Product Hunt 的 OpenAI Day 分类中获得 70 票,排名第 15 位
Edgee Codex Compressor V2 的核心卖点是以低 35.6% 的成本使用 Codex
在同一代码仓库、同一模型、同一工作流的对照测试中,通过 Edgee 压缩网关路由的 Codex 输入 token 减少 49.5%
在对照测试中,缓存命中率从 76.1% 提升到 85.4%
在对照测试中,单次会话总成本下降 35.6%
压缩后的输入 token 下降幅度(49.5%)大于总成本下降幅度(35.6%),因为输出 token、缓存及固定开销不会因输入压缩等比例减少
Edgee 的压缩网关是在客户端与模型之间插入的中间层,对上下文进行智能精简,只保留对生成有效输出必要的信息
压缩层通过标准化、去冗余处理使不同会话的上下文前缀更趋一致,从而提高触发缓存的概率
Edgee 官方基准测试基于单一代码仓库和单一工作流,实际项目收益可能因代码结构、任务类型而异
1 more timeline events
All Facts (10)
Edgee Codex Compressor V2 通过压缩传入模型的上下文来降低 OpenAI Codex 使用成本
50%UnverifiedEdgee Codex Compressor V2 的核心卖点是以低 35.6% 的成本使用 Codex
50%Unverified在同一代码仓库、同一模型、同一工作流的对照测试中,通过 Edgee 压缩网关路由的 Codex 输入 token 减少 49.5%
50%Unverified在对照测试中,缓存命中率从 76.1% 提升到 85.4%
50%Unverified在对照测试中,单次会话总成本下降 35.6%
50%Unverified压缩后的输入 token 下降幅度(49.5%)大于总成本下降幅度(35.6%),因为输出 token、缓存及固定开销不会因输入压缩等比例减少
50%UnverifiedEdgee 的压缩网关是在客户端与模型之间插入的中间层,对上下文进行智能精简,只保留对生成有效输出必要的信息
50%Unverified压缩层通过标准化、去冗余处理使不同会话的上下文前缀更趋一致,从而提高触发缓存的概率
50%UnverifiedEdgee 官方基准测试基于单一代码仓库和单一工作流,实际项目收益可能因代码结构、任务类型而异
50%UnverifiedEdgee 官方强调压缩不牺牲有用的输出(without sacrificing useful output)
50%