Laya-multilingual
一个322M参数的多语言文本分类模型,基于mmBERT构建,用于判断对话中的潜台词和危险等级,输出概率而非生成文本。
时间轴 (近 90 天)
Laya-multilingual 是一个322M参数、基于mmBERT构建、Apache-2.0许可的模型,用于对聊天卡片问题输出概率判断。
在300段由Qwen3-32B标注的练习考卷上,微调v3的Laya相比零样本版将11个问题的判断macro-F1从0.33提升到0.57,校准误差从0.15降至0.07,危险等级MAE从2.78降至1.56。
微调v3在0.8报警线下的安全召回为13/21(62%),零样本为0/21;普通聊天误报从2.9%降至1.4%。
作者承认微调v3未通过两项预设门槛:安全召回62%低于90%目标,且“危机是否已过去”问题的F1下降0.08超过0.02的限制。
微调经验表明,同一版本不同随机种子的F1相差0.02-0.05,应比较三个种子的平均值而非最佳种子。
将风险对话样本占比从10%提高到25%会提升独立安全检查召回(53%到68%),但导致模型对普通聊天误报增多;将风险样本仅用于训练安全问题可缓解副作用。
全部知识事实 (6)
Laya-multilingual 是一个322M参数、基于mmBERT构建、Apache-2.0许可的模型,用于对聊天卡片问题输出概率判断。
50%待验证在300段由Qwen3-32B标注的练习考卷上,微调v3的Laya相比零样本版将11个问题的判断macro-F1从0.33提升到0.57,校准误差从0.15降至0.07,危险等级MAE从2.78降至1.56。
50%待验证微调v3在0.8报警线下的安全召回为13/21(62%),零样本为0/21;普通聊天误报从2.9%降至1.4%。
50%待验证作者承认微调v3未通过两项预设门槛:安全召回62%低于90%目标,且“危机是否已过去”问题的F1下降0.08超过0.02的限制。
50%待验证微调经验表明,同一版本不同随机种子的F1相差0.02-0.05,应比较三个种子的平均值而非最佳种子。
50%待验证将风险对话样本占比从10%提高到25%会提升独立安全检查召回(53%到68%),但导致模型对普通聊天误报增多;将风险样本仅用于训练安全问题可缓解副作用。
50%