待验证50% 置信事实精确时间
在 LLM 可观测性模型中,span 是基本单位,代表流水线中的一个步骤,可携带输入、输出、耗时、成本等结构化字段;多个嵌套 span 组成一棵 trace,对应一次端到端用户请求。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
Langfuse 开源 LLM 可观测性:别再盲目调试 RAG 应用
rss2026/10/15
涉及实体
相关事实
已验证LLM 可观测性追踪层基于 OpenTelemetry 标准扩展,将每次 LLM 调用封装为 Span,记录输入输出、Token 消耗、延迟与模型版本71% 相似待验证LLM自回归解码阶段每生成一个token都需从显存加载全量模型权重,批量较小时形成内存墙69% 相似待验证LLM上下文窗口是模型单次调用能接收的最大token数量,包括系统提示、对话历史、检索到的记忆、工具定义和当前输入;当内容之和接近窗口上限时,模型需要截断或压缩,通常优先丢弃最早的内容。68% 相似待验证LLM的计费模型基于token数量,输入和输出都计费68% 相似待验证当某个池成员触达限流阈值时,LiteLLM 会自动将后续请求路由到列表中下一个可用模型67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1034073API
curl https://kongchang.com/api/v1/knowledge/claims/1034073MCP
get_claim(id=1034073)