待验证50% 置信基准精确时间
LiquidAI 的 LFM2.5-24B-A2B 用稀疏 MoE 实现 24B 总参数中每 token 仅激活 2B，上下文从 32K 扩展到 131K，在 Apple M5 Max 上跑出 184 tok/s，在单张 NVIDIA B300 上聚合吞吐高达 21K tok/s。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至：2027/1/12
来源
涉及实体
相关事实
待验证LFM2.5-24B-A2B 在 Apple M5 Max 上解码速度达到 184 tokens/s。75% 相似已验证以LLaMA-3 70B（80层、64头、每头128维）为例，单个token的KV Cache约占2.6MB（FP16精度），32K上下文的KV Cache总量约达83GB70% 相似待验证27B模型BF16权重约54GB（27B×2字节）70% 相似待验证Liquid AI d1-omni-600M 参数规模为 587M，Q8_0 GGUF 量化后约 670 MB，llama.cpp 已合并支持，可在树莓派 5 上通过 llama-server 命令运行。70% 相似待验证以70B的BF16模型为例，产生一个token需读入约140GB权重，打满H100的3.35TB/s显存带宽时每token延迟至少42毫秒，理论TPS上限约24 token/秒70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1026267API
curl https://kongchang.com/api/v1/knowledge/claims/1026267MCP
get_claim(id=1026267)