待验证50% 置信基准精确时间
两张RTX 3080拼起来运行Strata可达每秒109个token;官方称一张3090有望达到100到140 token每秒。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/18
首次发现
有效期至:2026/11/1
来源
12G显卡跑1250亿参数大模型:Strata本地部署实测
bilibili难言哟y2026/10/17
涉及实体
相关事实
待验证旧款RTX 3090因24GB显存能容纳更多专家,预估运行Strata性能反而达100到140 Token/秒,说明此工作负载下显存容量胜过纯浮点算力80% 相似待验证Strata模型在RTX 5070上每秒生成94个token,在A卡9070 XT上每秒生成60个token。72% 相似待验证在配备6核锐龙和64GB内存的RTX 5070上,Strata短对话约90 Token/秒,12.8万Token上下文约67 Token/秒,读取提示词约1300 Token/秒72% 相似待验证提示处理速度上RTX 4090约3000 tokens/s,M5 Max约800 tokens/s,英伟达在长文档/代码库输入场景优势明显72% 相似已验证在RTX 5090上,Muse Glimmer生成速度从每秒75个Token提升到233个Token,提速约3.1倍72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060177API
curl https://kongchang.com/api/v1/knowledge/claims/1060177MCP
get_claim(id=1060177)