SJR
一种将多模态内容审核中内容理解与策略分类解耦的架构范式,通过内容模型生成文本摘要、策略模型基于摘要进行分类判断,并利用GRPO进行协同训练,支持少样本冷启动
时间轴 (近 90 天)
SJR(Summarize-Judge-Refine)架构将内容理解与策略判断解耦成两个独立模型,并用自然语言作为二者之间的接口
SJR架构包含内容模型(多模态模型,将原始内容转换为结构化文本摘要)和策略模型(纯文本模型,对照策略定义进行分类判断)两部分
SJR使用GRPO(Group Relative Policy Optimization)来精炼内容模型,使其生成策略相关的摘要
SJR通过在文本空间生成对抗性摘要变体进行数据增强,实现少样本策略冷启动
在误导性广告检测任务上,SJR相比零样本思维链基线在'非误导'类别的F1分数上取得23.6%的相对提升
SJR在实验中全面超越了端到端SFT、STaR/RFT以及RLFT等多种训练方法
SJR一个训练变体完全不使用真实违规样本(正类数据全部合成生成),在违规类F1上与使用全量真实数据的模型差距仅在0.2%相对值以内
SJR架构使新策略可以在完全没有真实违规数据的情况下上线
SJR架构中每个审核决策都建立在人类可读的文本摘要之上,使可解释性成为架构设计的天然产物
SJR架构在策略变化时只需调整或替换纯文本的策略模型,无需触动多模态内容模型
全部知识事实 (10)
SJR(Summarize-Judge-Refine)架构将内容理解与策略判断解耦成两个独立模型,并用自然语言作为二者之间的接口
50%待验证SJR架构包含内容模型(多模态模型,将原始内容转换为结构化文本摘要)和策略模型(纯文本模型,对照策略定义进行分类判断)两部分
50%待验证SJR使用GRPO(Group Relative Policy Optimization)来精炼内容模型,使其生成策略相关的摘要
50%待验证SJR通过在文本空间生成对抗性摘要变体进行数据增强,实现少样本策略冷启动
50%待验证在误导性广告检测任务上,SJR相比零样本思维链基线在'非误导'类别的F1分数上取得23.6%的相对提升
50%待验证SJR在实验中全面超越了端到端SFT、STaR/RFT以及RLFT等多种训练方法
50%待验证SJR一个训练变体完全不使用真实违规样本(正类数据全部合成生成),在违规类F1上与使用全量真实数据的模型差距仅在0.2%相对值以内
50%待验证SJR架构使新策略可以在完全没有真实违规数据的情况下上线
50%待验证SJR架构中每个审核决策都建立在人类可读的文本摘要之上,使可解释性成为架构设计的天然产物
50%待验证SJR架构在策略变化时只需调整或替换纯文本的策略模型,无需触动多模态内容模型
50%