待验证50% 置信事实精确时间
用12GB显存的显卡和约70GB的模型下载量,可以本地运行1250亿参数的Strata大模型。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至:2027/1/16
来源
12G显卡跑1250亿参数大模型:Strata本地部署实测
bilibili难言哟y2026/10/17
涉及实体
相关事实
待验证Strata引擎通过将模型主体常驻系统内存、仅将当前推理需要的层动态加载到显存的方式,使12GB显存的电脑能够运行1250亿参数模型。77% 相似待验证Strata作者明确给出三条硬性硬件要求:显卡显存12GB以上、系统内存32GB起步、硬盘空间预留80GB以上(首次下载约70GB)。77% 相似待验证UP主用两块廉价显卡(合计24GB显存)加32GB系统内存(总可用约50GB)在本地运行了占用约85GB的177B参数模型76% 相似已验证支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存,超过单张H100的80GB显存容量76% 相似已验证运行70亿参数以上的本地大模型通常需要至少16GB显存的GPU75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060173API
curl https://kongchang.com/api/v1/knowledge/claims/1060173MCP
get_claim(id=1060173)