概念缓存键 / cache key
缓存键设计
在缓存模型裁决结果时用于唯一标识请求的键设计方法,需涵盖影响输出的所有输入(如模型标识、模板哈希、diff哈希)。
时间轴 (近 90 天)
10月16日
在程序里,用问题原文作为键时,空格、换行、标点全角半角等细微差异都会被视为不同问题,导致缓存命中率下降或重复处理
待验证50%
在缓存模型裁决结果时用于唯一标识请求的键设计方法,需涵盖影响输出的所有输入(如模型标识、模板哈希、diff哈希)。
在程序里,用问题原文作为键时,空格、换行、标点全角半角等细微差异都会被视为不同问题,导致缓存命中率下降或重复处理