在 ChatGPT 的用户体量下实时完成每轮对话的意图解析、广告匹配和相关性打分，叠加的推理开销巨大，工程团队必须在延迟、成本和准确性之间找到平衡点。