模型Harmonizing Accuracy and Efficiency for Speculative Decoding
HASS
一种投机解码方法,旨在平衡准确性和效率,作为RCSD的对比基线。
时间轴 (近 90 天)
10月22日
与HASS方法相比,RCSD将平均接受长度提升了35%。
待验证50%
10月22日
HASS(Harmonizing Accuracy and Efficiency for Speculative Decoding)是投机解码草稿模型训练的代表性基线方法,主要基于分布匹配类的训练目标。
待验证50%