[控场AI]
产品

Billion Context

DSH平台上下载量第一的插件,通过将早期对话内容折叠成摘要来控制上下文长度,减少重复读取成本,适合长期使用、话题跨度大的场景。

时间轴 (近 90 天)

11月9日

Billion Context 当前版本为 0.121,项目发展非常快并会自动更新 master 分支。

待验证50%
11月9日

Claude 桌面应用中的 code 标签页会绕过代理,因此无法享受 Billion Context 的压缩功能。

待验证50%
11月9日

使用 Billion Context 的 host 选项运行时没有认证机制,只能在信任的网络中使用。

待验证50%
11月9日

Billion Context 是一个加载在 AI agent 和模型 API 之间的小型代理服务器,通过可逆压缩对话历史来管理上下文窗口。

待验证50%
11月9日

Billion Context 支持 Anthropic 和 OpenAI 风格的 API。

待验证50%
11月9日

Billion Context 的健康 session 缓存命中率可达 95% 到 97%,压缩本身成本在 2% 或更低。

待验证50%
11月9日

在 needle in a haystack 测试中,Billion Context 的准确率从 69% 下降到 27%。

待验证50%
11月9日

Billion Context 可与 Claude Code、OpenCode、Codex 等客户端集成,并支持 DeepSeek V4 Flash、Claude 3.1 Pro、GLM-5.3、Qwen 3.8 Max、Minimax M3.1 Flash 等模型。

待验证50%
11月7日

在 148 万 token 测试中,全上下文 199 次测试全部失败,而 Billion Context 凭约 30 倍压缩比每次过关。

待验证50%
11月7日

Billion Context 可以通过 npm 安装(npm install -g billion-context),使用 billy 命令,支持三种接入方式:作为原生插件安装、直接启动客户端并通过代理、手动将代理地址加在 base URL 前面。

待验证50%

还有 12 条时间轴事件

全部知识事实 (20)

待验证

Billion Context 当前版本为 0.121,项目发展非常快并会自动更新 master 分支。

50%
待验证

Claude 桌面应用中的 code 标签页会绕过代理,因此无法享受 Billion Context 的压缩功能。

50%
待验证

使用 Billion Context 的 host 选项运行时没有认证机制,只能在信任的网络中使用。

50%
待验证

Billion Context 是一个加载在 AI agent 和模型 API 之间的小型代理服务器,通过可逆压缩对话历史来管理上下文窗口。

50%
待验证

Billion Context 支持 Anthropic 和 OpenAI 风格的 API。

50%
待验证

Billion Context 的健康 session 缓存命中率可达 95% 到 97%,压缩本身成本在 2% 或更低。

50%
待验证

在 needle in a haystack 测试中,Billion Context 的准确率从 69% 下降到 27%。

50%
待验证

Billion Context 可与 Claude Code、OpenCode、Codex 等客户端集成,并支持 DeepSeek V4 Flash、Claude 3.1 Pro、GLM-5.3、Qwen 3.8 Max、Minimax M3.1 Flash 等模型。

50%
待验证

在 148 万 token 测试中,全上下文 199 次测试全部失败,而 Billion Context 凭约 30 倍压缩比每次过关。

50%
待验证

Billion Context 可以通过 npm 安装(npm install -g billion-context),使用 billy 命令,支持三种接入方式:作为原生插件安装、直接启动客户端并通过代理、手动将代理地址加在 base URL 前面。

50%
待验证

Billion Context 目前版本为 0.1.21,默认自动更新主分支,带 host 参数运行时完全没有身份验证,桌面端的 Code 标签页会绕过代理而不被压缩。

50%
待验证

大海捞针式精确检索的准确率从全上下文的 69% 降至 Billion Context 的 27%,因为摘要保留核心语义而非逐字原文。

50%
待验证

Billion Context 是一个位于 Agent 和模型 API 之间的轻量代理,通过将 Agent 的 base URL 指向它来压缩对话历史,兼容 Anthropic 和 OpenAI 两种 API 格式。

50%
待验证

Billion Context 提供四个工具供模型使用:compress(折叠消息为摘要)、decompress(调回原文)、search context(关键词检索压缩内容)、状态查询(显示上下文占用率)。

50%
待验证

Billion Context 的压缩是增量式的,只对小范围内容做摘要,且过程完全可逆,与一次性概括全文的内置总结功能不同。

50%
待验证

官方称正常会话的提示词缓存命中率稳定在 95% 到 97%,压缩本身的开销仅占 2% 甚至更低。

50%
待验证

Billion Context 官方论文覆盖长达四个半月的实际使用、17.4 万次模型调用、187.6 亿输入 token,上下文窗口零溢出,且全部在 200k 模型上完成。

50%
待验证

在 DeepSeek V4.1 Flash 上运行的 Context Bench 基准测试中,Billion Context 的 F1 分数为 0.31,超过全上下文的 0.29;成本为 4.61 美元,比全上下文的 11.05 美元降低 58%。

50%
待验证

在 Long Memo Val 基准测试中,Billion Context 得分 79.2%,全上下文为 83.2%,最佳 RAG 方案为 62.6%,成本降低 71%。

50%
待验证

这四款插件都可以在 DSH 插件市场里通过搜索名字找到,也可以直接询问 DSH 获取。

50%

来源文章