CollabSciReM
CollabSciReM 是一个面向科学对话对齐的奖励分解框架,将对话级奖励拆解为对话质量、科学严谨性和结构效率三个可独立优化的目标条件化分量,用于提升 LLM 在科研协作场景中的准确性与效率。
时间轴 (近 90 天)
CollabSciReM 框架将奖励分解为对话质量、科学严谨性和结构效率三个维度。
CollabSciReM 在多个评测中显著优于科学无关的通用奖励基线。
研究团队构建了 SciQuality 评测集,基于 300 篇留出科学论文构造多轮研究对话,并从六个维度进行成对评估。
研究团队在 8.62K 条合成科研对话上微调模型。
在响应长度匹配的条件下,CollabSciReM 在 SciQuality 评测中取得 65.3% 的胜率。
在全部四个 Llama 和 Qwen 模型上,CollabSciReM 在 SciQuality 评测中均优于同等数据训练的科学无关奖励基线。
对 7B 和 8B 模型而言,在 10 个单轮与多轮基准设置中,CollabSciReM 在 8 个设置的主指标上超过基线。
领域专家盲测认为 CollabSciReM 在新颖性上显著优于通用奖励变体,且报告的幻觉回答更少。
合成对话数据(8.62K 条)与真实科研协作场景之间存在分布差异,需要后续验证。
面向专业领域的对齐不应沿用通用对话的奖励设计,而应把严谨性拆成可独立度量的分量并显式约束效率。
全部知识事实 (10)
CollabSciReM 框架将奖励分解为对话质量、科学严谨性和结构效率三个维度。
50%待验证CollabSciReM 在多个评测中显著优于科学无关的通用奖励基线。
50%待验证研究团队构建了 SciQuality 评测集,基于 300 篇留出科学论文构造多轮研究对话,并从六个维度进行成对评估。
50%待验证研究团队在 8.62K 条合成科研对话上微调模型。
50%待验证在响应长度匹配的条件下,CollabSciReM 在 SciQuality 评测中取得 65.3% 的胜率。
50%待验证在全部四个 Llama 和 Qwen 模型上,CollabSciReM 在 SciQuality 评测中均优于同等数据训练的科学无关奖励基线。
50%待验证对 7B 和 8B 模型而言,在 10 个单轮与多轮基准设置中,CollabSciReM 在 8 个设置的主指标上超过基线。
50%待验证领域专家盲测认为 CollabSciReM 在新颖性上显著优于通用奖励变体,且报告的幻觉回答更少。
50%待验证合成对话数据(8.62K 条)与真实科研协作场景之间存在分布差异,需要后续验证。
50%待验证面向专业领域的对齐不应沿用通用对话的奖励设计,而应把严谨性拆成可独立度量的分量并显式约束效率。
50%