模型HRM-Text
HRM-Text-1B
Sapient AI开发的PrefixLM架构语言模型,参数量1.18B,作为ZY-S1微调的基座模型
时间轴 (近 90 天)
10月14日
ZY-S1 Preview并非从零训练,而是建立在HRM-Text-1B基础之上并针对ZY-S1项目做了适配调整
待验证50%
10月14日
HRM-Text-1B是近期开源社区中一个备受关注的10亿参数级语言模型,名称中的'HRM'通常指代分层递归记忆或类似的高效架构设计思路
待验证50%
10月13日
ZY-S1以Sapient AI的HRM-Text-1B(一种PrefixLM架构)为基座,进行1000步监督微调(SFT),再加上120步纠错训练。
待验证50%