待验证50% 置信事实精确时间

SlimWise 只在解码阶段剪枝专家，并将预填充阶段生成的完整 KV 缓存直接交接给剪枝后的解码器。

1

来源数

50%

置信度

长期有效

时效性

2026/10/16

首次发现

来源

SlimWise专家剪枝：MoE解码吞吐提升1.8倍

涉及实体

SlimWiseconcept

相关事实

待验证对于服务 MoE 模型的生产系统，应该用预填充-解码分离架构替代单一解码流程，把全模型 KV 缓存直接输入剪枝后的解码器。69% 相似待验证投机解码（speculative decoding）和 KV 缓存优化等技术可降低单次请求的计算成本62% 相似已验证KV Cache机制可以缓存重复的前缀内容，越简洁的系统提示词缓存命中率越高62% 相似待验证KV Cache 的匹配要求严格的前缀一致性，只有请求开头部分与缓存记录完全吻合，后续新增内容才能接续缓存62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1042667

API

curl https://kongchang.com/api/v1/knowledge/claims/1042667

MCP

get_claim(id=1042667)