最优LLM路由取决于对预填充成本与队列延迟的准确建模，把缓存命中收益与排队代价放进同一个成本函数比单独优化任何一项更接近低延迟。