待验证50% 置信事实精确时间

每输出token延迟（TPOT）主要受显存带宽和解码效率制约

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI推理GPU选型指南：精准控制TCO的实用方法

涉及实体

相关事实

待验证WebSocket 基于 TCP 提供全双工通信通道，但在网络抖动时可能因重传导致延迟累积；WebRTC 基于 UDP 牺牲部分可靠性换取更低延迟72% 相似待验证全局内存访问延迟高达数百个时钟周期，非合并访问会导致带宽利用率骤降69% 相似待验证公网P2P连接的通信开销可能成为分布式LLM推理的致命瓶颈，网络延迟往往会抵消聚合算力带来的收益69% 相似待验证张量并行（TP）对通信带宽要求极高但延迟最优，流水线并行（PP）对带宽要求较低但存在流水线气泡67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/898278

API

curl https://kongchang.com/api/v1/knowledge/claims/898278

MCP

get_claim(id=898278)