产品
Stratum
社区开源项目，专注于在消费级硬件上部署大规模语言模型，通过量化与MoE架构实现低显存运行千亿参数模型
时间轴 (近 90 天)
10月13日
每秒 94 个 Token 的输出速度是在特定量化精度和上下文长度下测得的，实际体验会随提示词长度、并发数等因素波动。
待验证50%
社区开源项目，专注于在消费级硬件上部署大规模语言模型，通过量化与MoE架构实现低显存运行千亿参数模型
每秒 94 个 Token 的输出速度是在特定量化精度和上下文长度下测得的，实际体验会随提示词长度、并发数等因素波动。