印度团队发布ZY-S1 Preview：1.18B HRM-Text模型微调实战

印度AI团队ZYR AI近日在Hugging Face上发布了实验性模型ZY-S1 Preview，这是一次针对1.18B参数HRM-Text模型的监督微调尝试。虽然规模不大，但它为关注小参数模型能力的开发者提供了一个值得观察的样本。

训练配置：从HRM-Text-1B出发

ZY-S1的技术路径并不复杂：以Sapient AI的HRM-Text-1B（一种PrefixLM架构）为基座，进行1000步监督微调（SFT），再加上120步纠错训练。训练数据来自经过过滤的MnemicAI/Ling-Coder-SFT-English-Clean数据集。

模型采用Apache-2.0许可证发布，参数量为1.183B。从工程角度看，这是一次轻量级的实验，而非追求全面能力覆盖的产品级模型。PrefixLM架构本身在文本生成任务上有其特点，而ZY-S1选择在此基础上做SFT，目标更偏向验证微调流程的有效性。

PrefixLM（前缀语言模型） 是一种介于自编码（如BERT）与自回归（如GPT）之间的架构设计。它的核心特征是：输入序列被划分为「前缀」和「后缀」两部分，前缀部分内部的token可以互相看到（类似双向注意力），而后缀部分则只能看到自己及之前的token（类似因果注意力）。这一特性使其在「给定上文生成下文」的任务上表现自然，常用于文本生成、翻译和摘要等场景。实现上通常依赖 token_type_ids 来区分前缀与后缀，并允许框架动态构建注意力掩码。与标准Decoder-only模型相比，PrefixLM在微调时需要额外处理这部分输入结构，因此对使用者的工程细节要求更高。

早期评测：语言理解有提升，数学推理是短板

作者公布了25道题的小样本评测结果，对比基座模型与ZY-S1的表现：

• DROP（阅读理解）：EM从4→4保持不变，F1从18.24→19.76，略有改善
• ARC-Challenge：从76→80，有4个百分点的提升
• MMLU：从48→52，同样提升4个百分点
• MATH-500：从4→0，不升反降

这组数据传递出几个信号。ARC-Challenge和MMLU的提升说明微调对常识推理和多任务理解有一定帮助。但MATH-500归零值得注意——微调数据以代码和通用SFT英文内容为主，数学能力的退化可能与数据分布偏移有关。当然，25题的样本量本身很小，这些数字更适合作为方向性参考，而非严格结论。

DROP（Discrete Reasoning Over Paragraphs）是一项阅读理解基准测试，要求模型阅读一段英文段落，并回答涉及离散推理（如加减、排序、计数、比较）的问题。与常规问答任务不同，DROP强调对文中数字和实体进行多步逻辑运算，而非仅做信息抽取。评测指标包括精确匹配（EM）和F1分数：EM要求答案完全一致，F1则衡量词级重叠。它在早期小模型评测中常被用来观察推理能力的细微变化，但小样本条件下容易受噪声影响。ARC-Challenge 则是AI2推理挑战赛的困难子集，题目多来自小学科学，需要常识与多步推理结合，是衡量模型知识迁移与逻辑能力的常用基准。MMLU 覆盖57个学科的多选题，主要用于评估模型在多领域知识上的综合表现。

如何运行：注意trust_remote_code和token_type_ids

ZY-S1的使用有一个关键细节：加载模型时需要设置trust_remote_code=True，并且必须传入token_type_ids——提示词token用1表示，生成token用0表示。这对PrefixLM架构来说并不意外，但对习惯标准自回归模型的开发者来说容易忽略。

作者表示完整评测即将发布，并欢迎社区反馈。

trust_remote_code=True 是 Hugging Face Transformers 库中的一项安全机制。默认情况下，from_pretrained 只会加载库内置的标准模型类；当模型作者在仓库中提供了自定义建模代码（如特殊架构、修改后的注意力实现）时，用户必须显式传入这个参数，才能让程序下载并执行仓库中的 .py 文件。这一设计是为了提醒使用者：远程代码拥有与本地 Python 脚本等同的权限，加载前应确认来源可信。ZY-S1 要求开启该参数，说明它的推理逻辑并未完全纳入标准 Transformer 实现，而是依赖作者提供的自定义封装。

小模型微调的价值在哪里

ZY-S1 Preview的意义不在于刷榜。1.18B的体量决定了它无法在复杂推理任务上与更大的模型竞争。但它展示了几个值得关注的点：印度本土团队在开源模型微调上的尝试、PrefixLM架构的实际微调效果、以及在小数据集上做SFT的收益边界。

对于想要复现或在此基础上继续实验的开发者来说，Apache-2.0许可证和公开的训练配置降低了门槛。而MATH-500的退化也提醒我们：微调数据的筛选和质量，可能比训练步数更关键。

完整评测结果出来后，ZY-S1的真实能力边界会更加清晰。

监督微调（SFT） 是指在预训练模型基础上，用带标注的「输入-输出」对继续训练，使模型适配特定任务格式或风格。SFT 的收益高度依赖数据分布：如果微调数据以代码和通用英文指令为主，模型在这些领域的表现会提升，但与微调目标无关的能力（如数学推理）可能因「灾难性遗忘」而下降。ZY-S1 中 MATH-500 从 4 降到 0，正是这种分布偏移的典型表现。灾难性遗忘 指神经网络在学习新任务时，急剧丧失先前学到的知识，在小模型上尤为明显——因为参数容量有限，新旧知识竞争激烈。缓解策略包括混合原始预训练数据、使用低秩适配（LoRA）等参数高效方法，或控制学习率与训练步数。