概念
GRADMM
一种基于梯度的合成数据生成方法，用于LLM微调，通过重建源文本或追求语言流畅性来生成训练数据，作为DASA方法的对比基线
时间轴 (近 90 天)
9月30日
DASA在大多数对比中优于基线方法GRADMM
待验证50%
9月30日
在所评估的合成设置下，DASA相比GRADMM提供3.6到4.9倍的加速，且峰值GPU显存占用相当
待验证50%
9月30日
对比基线GRADMM往往试图重建源文本或追求语言的流畅性
待验证50%
一种基于梯度的合成数据生成方法，用于LLM微调，通过重建源文本或追求语言流畅性来生成训练数据，作为DASA方法的对比基线
DASA在大多数对比中优于基线方法GRADMM
在所评估的合成设置下，DASA相比GRADMM提供3.6到4.9倍的加速，且峰值GPU显存占用相当
对比基线GRADMM往往试图重建源文本或追求语言的流畅性