模型
Squint OPSD
针对多模态模型眯眼文字识别缺陷提出的on-policy师生蒸馏训练方法,训练时利用特权上下文引导学生建立正确空间注意力策略,推理时无需额外辅助输入
时间轴 (近 90 天)
10月12日
Squint OPSD采用师生蒸馏范式,教师模型接收降采样图像视图并获得真实文字转录作为特权上下文
待验证50%
10月12日
Squint OPSD中教师在token层面的分布沿on-policy轨迹监督学生模型学习
待验证50%
10月12日
Squint OPSD训练完成后,学生模型在推理阶段只面对原始图像,无需辅助视图或额外输入
待验证50%
10月12日
在SquintBench上,Squint OPSD达到88.61的ANLS分数
待验证50%