上下文退化

上下文退化指长任务中对话历史不断累积后，模型注意力被稀释、早期关键信息被淹没，导致回答质量下降的现象，常见对策包括摘要压缩、关键信息外置到工具或向量库