Lexical Prompt Compression
一篇arXiv论文提出的无训练、无辅助模型的Prompt压缩方案,基于十一种可组合的词法级NLP变换,仅需CPU即可运行,具有完全确定性的压缩结果
时间轴 (近 90 天)
该arXiv论文提出了一种不依赖训练、不依赖任何辅助模型、仅靠词法级NLP处理的纯CPU Prompt压缩管线
该压缩管线由十一种可独立开关的词法变换组成,包括停用词移除、填充短语删除、缩写与省略形式替换、基于词性的剪枝、词形还原、基于WordNet的同义词缩短和命名实体保留
最激进配置的平均token削减率达到40.3%(标准差9.2),此时相对原始Prompt输出的BERTScore-F1为0.876
仅停用词移除配置可实现token削减29.6%,BERTScore-F1保持在0.913
在激进压缩配置下,常识推理任务表现出系统性的失效模式
不同任务对Prompt压缩的耐受度不同,事实性问答或结构化任务对压缩的容忍度高于推理密集型任务
命名实体保留机制在压缩过程中显式保护人名、地名、专有名词等核心信息成分
压缩强度与输出质量之间存在帕累托前沿权衡关系,更高压缩比需接受一定质量下降
作者公开了全部代码、Prompt和逐单元格结果以支持复现
全部知识事实 (9)
该arXiv论文提出了一种不依赖训练、不依赖任何辅助模型、仅靠词法级NLP处理的纯CPU Prompt压缩管线
50%待验证该压缩管线由十一种可独立开关的词法变换组成,包括停用词移除、填充短语删除、缩写与省略形式替换、基于词性的剪枝、词形还原、基于WordNet的同义词缩短和命名实体保留
50%待验证最激进配置的平均token削减率达到40.3%(标准差9.2),此时相对原始Prompt输出的BERTScore-F1为0.876
50%待验证仅停用词移除配置可实现token削减29.6%,BERTScore-F1保持在0.913
50%待验证在激进压缩配置下,常识推理任务表现出系统性的失效模式
50%待验证不同任务对Prompt压缩的耐受度不同,事实性问答或结构化任务对压缩的容忍度高于推理密集型任务
50%待验证命名实体保留机制在压缩过程中显式保护人名、地名、专有名词等核心信息成分
50%待验证压缩强度与输出质量之间存在帕累托前沿权衡关系,更高压缩比需接受一定质量下降
50%待验证作者公开了全部代码、Prompt和逐单元格结果以支持复现
50%