概念内容增量 / content delta指标
content delta
一种用于分析少样本提示对语言模型表征影响的量化指标,通过从总表征漂移量中减去长度匹配随机文本引起的漂移,精确隔离出示例内容本身对模型隐藏状态的影响
时间轴 (近 90 天)
9月16日
研究提出用长度匹配的随机文本替换真实示例,从总漂移中减去纯长度引起的漂移,得到指标content delta(内容增量)
待验证50%
9月16日
原始漂移量无法预测少样本成败(相关系数r=0.20),而content delta能有效预测(斯皮尔曼相关rho=+0.65,p=0.043)
待验证50%
9月16日
根据示例内容更大幅度重构自身表征的模型,反而从少样本中获益更多,这与流行的扰乱假说相反
待验证50%