[控场AI]
模型HRM-Text

HRM-Text-1B

Sapient AI开发的PrefixLM架构语言模型,参数量1.18B,作为ZY-S1微调的基座模型

时间轴 (近 90 天)

10月14日

ZY-S1 Preview并非从零训练,而是建立在HRM-Text-1B基础之上并针对ZY-S1项目做了适配调整

待验证50%
10月14日

HRM-Text-1B是近期开源社区中一个备受关注的10亿参数级语言模型,名称中的'HRM'通常指代分层递归记忆或类似的高效架构设计思路

待验证50%
10月13日

ZY-S1以Sapient AI的HRM-Text-1B(一种PrefixLM架构)为基座,进行1000步监督微调(SFT),再加上120步纠错训练。

待验证50%

全部知识事实 (3)

来源文章