Genus

Genus 是一个用纯 C 编写的推理引擎，作者是 Janas。

Genus 的核心机制是将模型权重保留在 SSD 上，不加载进内存，每个 Token 只从 SSD 读取激活的专家权重。

同一台 32GB 笔记本用传统方式拉满 CPU 跑模型，速度约为 2.8 tokens/s。

作者 Janas 明确表示 Genus 只是一个实验，还不是产品。

Genus 大概率缺少完善的文档、错误处理、多平台支持和长期维护承诺。