待验证50% 置信解决方案精确时间

8 槽位并发时默认配置下 VRAM 剩余不足 400MiB，驱动开始分页；添加 --vram-reserve-mib 1536 可解决该问题

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/17

首次发现

有效期至：2027/1/15

来源

一张RTX 5090跑125B编程模型：吞吐瓶颈与调优实录

rss2026/10/17

涉及实体

Strataproduct RTX 5090product

相关事实

待验证MiMo-V2.5主模型在双24GB显卡配合96/128GB DDR5内存的VRAM offload配置下，运行速度约为8-10 tokens/s71% 相似待验证不接3090时该机器可变身低功耗服务器，仅靠7840U、64GB内存、Vulkan后端和llama.cpp跑小模型70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1053021

API

curl https://kongchang.com/api/v1/knowledge/claims/1053021

MCP

get_claim(id=1053021)