Janas
一个开源项目，通过从 SSD 流式加载混合专家（MoE）模型中的专家权重，使大语言模型能够在内存不足的消费级硬件上运行超出内存容量的模型
时间轴 (近 90 天)
Genus 是一个用纯 C 编写的推理引擎，作者是 Janas。
作者 Janas 明确表示 Genus 只是一个实验，还不是产品。
Janas 使用 O_DIRECT 按需读取专家权重，并追踪热专家将其保留在内存缓存中，从而避免系统层面的缺页风暴。
Janas 支持投机解码：小型草稿模型猜出接下来几个 token，大模型一次验证。在 Qwen3-Next-80B 上，这让写入速度从 24 提升到 37 tok/s，且文本内容完全一致。
在测试机上，Qwen3-Next-80B 读取 1024 token 的 prompt 速度为 62 tok/s，不开启草稿时写入 24 tok/s；同为 48.4GB 的 Qwen3-Coder-Next 为读取 66、写入 22。
作者声称 Janas 在全部 13 个对比模型上都超过了 llama.cpp，测试条件相同笔记本、Q4_K_M 量化。
Janas 在 Linux x86-64（Ubuntu 22.04、Debian 12 及以上）上通过下载 tar.gz 包解压后运行 ./janas-chat 使用；Windows 10（1903+）和 11 有 zip 版本，作者报告 Windows 11 上写入速度与 Linux 持平。
Janas 是一个用 C 语言编写的语言模型推理引擎，作者是 Maurizio Cammalleri。
Janas 在 32GB 内存笔记本上运行 48.4GB 的 Qwen3-Next-80B，达到 37 tok/s；同一机器同一模型上 llama.cpp 只有 2.8 tok/s。
所有 Janas 性能数据来自项目公开的基准测试、README 和 Hacker News 讨论帖，为作者自测而非独立第三方验证。
还有 5 条时间轴事件
全部知识事实 (15)
Genus 是一个用纯 C 编写的推理引擎，作者是 Janas。
50%待验证作者 Janas 明确表示 Genus 只是一个实验，还不是产品。
50%待验证Janas 使用 O_DIRECT 按需读取专家权重，并追踪热专家将其保留在内存缓存中，从而避免系统层面的缺页风暴。
50%待验证Janas 支持投机解码：小型草稿模型猜出接下来几个 token，大模型一次验证。在 Qwen3-Next-80B 上，这让写入速度从 24 提升到 37 tok/s，且文本内容完全一致。
50%待验证在测试机上，Qwen3-Next-80B 读取 1024 token 的 prompt 速度为 62 tok/s，不开启草稿时写入 24 tok/s；同为 48.4GB 的 Qwen3-Coder-Next 为读取 66、写入 22。
50%待验证作者声称 Janas 在全部 13 个对比模型上都超过了 llama.cpp，测试条件相同笔记本、Q4_K_M 量化。
50%待验证Janas 在 Linux x86-64（Ubuntu 22.04、Debian 12 及以上）上通过下载 tar.gz 包解压后运行 ./janas-chat 使用；Windows 10（1903+）和 11 有 zip 版本，作者报告 Windows 11 上写入速度与 Linux 持平。
50%待验证Janas 是一个用 C 语言编写的语言模型推理引擎，作者是 Maurizio Cammalleri。
50%待验证Janas 在 32GB 内存笔记本上运行 48.4GB 的 Qwen3-Next-80B，达到 37 tok/s；同一机器同一模型上 llama.cpp 只有 2.8 tok/s。
50%待验证所有 Janas 性能数据来自项目公开的基准测试、README 和 Hacker News 讨论帖，为作者自测而非独立第三方验证。
50%待验证Janas 使用集成 GPU 处理 prompt，token 生成阶段则从 SSD 流式读取专家权重；可用 JANAS_GPU=0 强制纯 CPU 模式。
50%待验证Janas 类流式加载方案对 NVMe 有强依赖，在 SATA 盘上随机读取延迟过高会导致推理速度跌到不可用的程度。
50%待验证Janas 项目的核心主张是通过从 SSD 流式加载专家（experts）来运行超出内存容量的大语言模型。
50%待验证Janas 的工程价值在于将“用得上”和“存得下”解耦：SSD 负责存储，内存负责使用，中间通过流式调度衔接。
50%待验证Janas 项目最近出现在 Hacker News 上。
50%