[控场AI]
概念SGUID 技能蒸馏方法

SGUID

一种用于LLM技能库蒸馏的筛选方法,仅保留在训练中持续产生有效学习信号的技能,支持模型与技能库协同进化,通过迭代循环实现技能库与模型能力互相驱动提升

时间轴 (近 90 天)

10月13日

SGUID 研究指出,在策略内蒸馏中,检索到的技能里不到 25% 能提供有效的学习信号。

待验证50%
10月13日

SGUID 的核心筛选逻辑是:只有当某个技能在训练过程中持续产生有效的学习信号时,才保留它。

待验证50%
10月13日

SGUID 设计为支持模型与技能库协同进化:每轮蒸馏后从更新后模型的 rollout 中提炼新候选技能库,再筛选下一轮内化的技能,循环迭代。

待验证50%
10月13日

在 Olmo 和 Qwen 两个系列的四个模型上,蒸馏 6 个精选技能后,其中三个模型在均值 avg@12 上匹配或超过完整技能库蒸馏的效果。

待验证50%
10月13日

经过第二轮蒸馏 3 个新选技能后,四个模型全部达到或超过完整技能库水平,而此时完整技能库的规模最多是 SGUID 所选技能的 11 倍。

待验证50%
10月13日

在 Qwen3-8B 上,第二轮循环选出 3 个新技能后,模型表现从 64.3% 提升到 66.3%。

待验证50%
10月13日

在 Qwen3-4B 对比实验中,不使用 SGUID 过滤、直接用未筛选技能更新模型,性能在 HMMT25 上下降 0.3 个百分点。

待验证50%
10月13日

使用 SGUID 时,Qwen3-4B 第一轮后 HMMT25 提升 0.5 个百分点,第二轮后累计提升 1.1 个百分点。

待验证50%
10月13日

在模型-技能协同进化中,若某一轮误纳了劣质技能,错误会被放大并污染后续所有轮次。

待验证50%
10月13日

技能筛选不是优化选项,而是稳定协同进化的必要机制。

待验证50%

全部知识事实 (10)

来源文章