共 2 篇相关文章
基于413组配置的KV缓存量化基准测试,对比KVarN方差归一化与传统量化方案在Qwen和Gemma模型上的表现。kvarn6+精度尾部以更低显存超越q8_0,附完整推荐阶梯与实践建议。
Poolside Desktop Assistant 1.4.0版本发布,新增原生引导、任务队列、计划模式和子智能体协作功能,同时大幅提升本地模型推理速度,支持Claude和Codex多模型深度适配。