待验证50% 置信事实精确时间
Ollama的每次非流式generate调用会以纳秒为单位返回load、prompt-eval、generation三段耗时以及token数量
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/5
首次发现
有效期至：2027/1/3
来源
涉及实体
相关事实
待验证Ollama中的模型在一段时间无请求后会自动卸载出显存67% 相似待验证Continuous Batching在迭代级别管理批次，每完成一轮token生成即检查是否有请求完成并将空位分配给新请求，吞吐量相比静态批处理可提升数倍58% 相似待验证每个子代理启动都需重新注入项目背景、规则约束和代码库快照，导致 Token 消耗呈倍增态势而非线性叠加，主任务消耗 N 个 Token 时三个子代理可能合计消耗 3N 甚至更多57% 相似待验证多智能体并行调度可将总耗时从O(N)降至O(N/K)（K为并行Worker数量），依赖asyncio、Redis Streams消息队列及分布式锁机制57% 相似待验证对每个流式数据块都触发全量状态保存是一种典型的性能反模式57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/977209API
curl https://kongchang.com/api/v1/knowledge/claims/977209MCP
get_claim(id=977209)