待验证50% 置信基准精确时间
在上下文长度为1000时，带缓存的FLOP估算大约小1000倍，但单Token延迟从29.69ms降到4.95ms，只有约6倍提升。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
待验证在 100 万向量规模下，PRISM 在 2GB 的 c8g.medium 上做到 99% recall、15 毫秒中位延迟；HNSW 在 4GB 的 c8g.large 上是 392 毫秒，构建花了约 21.7 小时并出现内存抖动。72% 相似待验证纯内存操作的延迟通常比向量数据库方案低1-2个数量级，Redis等内存数据库的P99延迟可控制在1ms以内，而远程向量检索往往需要10-100ms71% 相似待验证Logic42 给出的性能数据显示：当每分区文件数从 4（512 MB/文件）增至 18,500（120 KB/文件）时，Trino 规划延迟从 45 ms 升至 38,000 ms，端到端查询时间从 480 ms 变为超时（OOM）。69% 相似待验证在同配置对比中，38K单请求吞吐从每秒69.38个Token提高到86.07个，约4K的8路总吞吐从每秒400.16提高到464.1568% 相似待验证切换新架构后，Legion平均缓存量从6.48M降至3.48M（-46%），平均未缓存量从1.71M降至1.03M（-40%）。68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060684API
curl https://kongchang.com/api/v1/knowledge/claims/1060684MCP
get_claim(id=1060684)