语义路由通常部署在请求入口处，对延迟敏感，模型体积和调用次数直接决定其可用性。