在线推理服务存在物理极限，当流量超出预期时，最直接的症状是延迟上升、超时率提高，部分用户会感知到模型变慢甚至偶尔不可用。