对每一条生产请求都存储完整 Prompt 和补全文本会导致成本急剧上升，一个日处理数千万 token 的高吞吐服务会产生数 GB 非结构化字符串。