[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Latent-Space Distillation / 潜空间知识蒸馏
潜空间蒸馏
一种知识蒸馏变体,将对齐点从输出层前移至中间隐层的特征表征空间,使学生模型直接学习教师模型的中间表征而非最终输出,适用于输出为连续向量而非分类概率的编码器类模型
来源文章
潜空间蒸馏压缩流式神经音频编码器:苹果端侧语音的内存优化之道
9月24日