概念Token Ledger / 调用账本
Token账本
记录每次LLM调用的token估算量、路由选择、延迟和prompt哈希的日志系统,通常以JSONL格式落盘。用于识别重复调用、设定免费路径阈值,并为路由决策提供可审计的数据基础。
时间轴 (近 90 天)
10月18日
账本记录对prompt做SHA256哈希截断后存储,可以在不保留原始prompt的前提下找出重复调用。
待验证50%
10月18日
账本记录中wall_s记录的是实测挂钟时间而非估算值。
待验证50%
10月18日
原作者每晚跑一次汇总脚本,输出按路由分组的分布:中位数token、p95 token、中位数延迟,以及哈希统计出的重复prompt数量。
待验证50%