待验证50% 置信事实精确时间

流式输出场景的性能计时需分别测量首字节延迟(TTFT)、最终完成时间和中间 chunk 吞吐率三个维度

1

来源数

50%

置信度

长期有效

时效性

2026/10/6

首次发现

来源

AI SDK Workflow 2.0.61 发布：工具 Schema 兼容性与流式性能修复

涉及实体

流式输出concept

相关事实

已验证TPS的测量通常分为两个阶段：首Token延迟（TTFT）和后续Token的生成速率（Throughput）78% 相似待验证响应速度涉及首token延迟（TTFT）和整体吞吐量75% 相似待验证流式架构可将端到端首字节延迟（TTFA）从串行叠加的1-3秒压缩至300-500ms量级75% 相似待验证缓存命中时prefill阶段可跳过已缓存部分，TTFT可从数秒压缩至毫秒级72% 相似待验证级联管道架构因每个模块的处理时延叠加，总响应延迟通常在1-3秒之间71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/982597

API

curl https://kongchang.com/api/v1/knowledge/claims/982597

MCP

get_claim(id=982597)