Yalda Embedding
基于 Qwen3-Embedding-0.6B 微调的波斯语稠密检索模型,参数量 5.958 亿,通过对比学习与关系知识蒸馏训练,面向波斯语检索任务
时间轴 (近 90 天)
Yalda Embedding 是一个拥有5.958亿参数的波斯语检索模型,基于Qwen3-Embedding-0.6B微调,使用超过一百万对查询-文档数据训练而成。
Yalda Embedding 在FaMTEB的八个波斯语检索任务上,宏平均分为0.5488,是评估的0.6B模型中最高分。
Yalda Embedding 在每个任务上都超过了Qwen3-Embedding-0.6B和F2LLM-v2-0.6B。
Yalda Embedding 接近Qwen3-Embedding-4B的表现,在四个任务上胜出,一个任务持平,宏平均仅落后0.0075。
最终的蒸馏配置在所有八个任务上均优于非蒸馏模型,平均分从0.4813提升至0.5488,且不增加推理时的模型大小。
Yalda Embedding 在未显式挖掘或提供困难负样本训练的情况下,在困难负样本评估任务上取得提升。
全部知识事实 (6)
Yalda Embedding 是一个拥有5.958亿参数的波斯语检索模型,基于Qwen3-Embedding-0.6B微调,使用超过一百万对查询-文档数据训练而成。
50%待验证Yalda Embedding 在FaMTEB的八个波斯语检索任务上,宏平均分为0.5488,是评估的0.6B模型中最高分。
50%待验证Yalda Embedding 在每个任务上都超过了Qwen3-Embedding-0.6B和F2LLM-v2-0.6B。
50%待验证Yalda Embedding 接近Qwen3-Embedding-4B的表现,在四个任务上胜出,一个任务持平,宏平均仅落后0.0075。
50%待验证最终的蒸馏配置在所有八个任务上均优于非蒸馏模型,平均分从0.4813提升至0.5488,且不增加推理时的模型大小。
50%待验证Yalda Embedding 在未显式挖掘或提供困难负样本训练的情况下,在困难负样本评估任务上取得提升。
50%