Agens Volundr 32B
Blockway团队开发的32B参数混合架构大语言模型，采用72层结构，仅18层保留KV缓存，融合线性注意力（KDA）、压缩稀疏注意力（BCSA）等机制，支持262K超长上下文窗口
时间轴 (近 90 天)
Agens Volundr 32B 为稠密结构，约 32B 参数，共 72 层，其中只有 18 层保留 KV 缓存
模型层级构成为 54 层 KDA（Kimi Delta Attention）线性注意力、17 层 BCSA 压缩稀疏注意力、1 层全注意力（第72层）
Engram 是基于哈希的 n-gram 记忆，存放在主机内存中，挂接在 72 层中的 2 层上；mHC 用 4 条残差流取代传统单条残差流
Agens Volundr 32B 的上下文窗口达到 262K
BF16 配置（两张 48GB GPU）下，解码速度从 1K 的 25.1 tok/s 到 128K 的 23.9 tok/s，几乎无衰减
对标 Qwen3.8-27B，Agens Volundr 32B 在 LiveCodeBench v6（+4.2）、HumanEval（+4.3）、AIME 2025（+2.9）、MATH-500（+1.6）领先
在 Agent 任务上 Agens Volundr 32B 落后：tau2-bench 为 74.2（对手 79-80），SWE-bench Verified（50题子集）仅 44（对手 58-64）
完整版 v1 将继续预训练到约 100 亿 token，并加入长 Agent 会话的训练以缩小 Agent 任务差距
模型当前必须使用团队自己的 sglang 构建，原版 sglang 和 vLLM 无法加载，GGUF/llama.cpp 支持仍在计划中
模型以 Apache-2.0 协议开源，BF16、INT4 权重及 DFlash2 drafter 已上传至 Hugging Face，提供针对 sm89 和 sm90 的 Docker 镜像
全部知识事实 (9)
Agens Volundr 32B 为稠密结构，约 32B 参数，共 72 层，其中只有 18 层保留 KV 缓存
50%待验证模型层级构成为 54 层 KDA（Kimi Delta Attention）线性注意力、17 层 BCSA 压缩稀疏注意力、1 层全注意力（第72层）
50%待验证Engram 是基于哈希的 n-gram 记忆，存放在主机内存中，挂接在 72 层中的 2 层上；mHC 用 4 条残差流取代传统单条残差流
50%待验证Agens Volundr 32B 的上下文窗口达到 262K
50%待验证BF16 配置（两张 48GB GPU）下，解码速度从 1K 的 25.1 tok/s 到 128K 的 23.9 tok/s，几乎无衰减
50%待验证对标 Qwen3.8-27B，Agens Volundr 32B 在 LiveCodeBench v6（+4.2）、HumanEval（+4.3）、AIME 2025（+2.9）、MATH-500（+1.6）领先
50%待验证在 Agent 任务上 Agens Volundr 32B 落后：tau2-bench 为 74.2（对手 79-80），SWE-bench Verified（50题子集）仅 44（对手 58-64）
50%待验证完整版 v1 将继续预训练到约 100 亿 token，并加入长 Agent 会话的训练以缩小 Agent 任务差距
50%待验证模型以 Apache-2.0 协议开源，BF16、INT4 权重及 DFlash2 drafter 已上传至 Hugging Face，提供针对 sm89 和 sm90 的 Docker 镜像
50%