待验证50% 置信基准精确时间
Strata模型在RTX 5070上每秒生成94个token,在A卡9070 XT上每秒生成60个token。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/18
首次发现
有效期至:2026/11/1
来源
12G显卡跑1250亿参数大模型:Strata本地部署实测
bilibili难言哟y2026/10/17
涉及实体
相关事实
待验证实测中,RTX 5070运行二比特量化版本,每秒输出94个Token。79% 相似待验证Strata是一个开源推理运行时,能在RTX 5070(12GB显存)上运行1250亿参数的Qwen3.8 Flash Next模型,输出速度约为每秒90个Token77% 相似待验证两张RTX 3080拼起来运行Strata可达每秒109个token;官方称一张3090有望达到100到140 token每秒。72% 相似已验证在RTX 5090上,Muse Glimmer生成速度从每秒75个Token提升到233个Token,提速约3.1倍70% 相似待验证在配备6核锐龙和64GB内存的RTX 5070上,Strata短对话约90 Token/秒,12.8万Token上下文约67 Token/秒,读取提示词约1300 Token/秒69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060175API
curl https://kongchang.com/api/v1/knowledge/claims/1060175MCP
get_claim(id=1060175)