推理侧关注部署阶段的延迟、吞吐与显存占用，涉及量化、算子替换、运行时调度等工程手段。