Verified65% confidenceFactExact time

700亿参数（70B）的模型经量化后可以在单张RTX 4090（显存24GB）上运行

3

Sources

65%

Confidence

Medium-term (~90 days)

Relevance

7/6/2026

First Seen

Valid until: 10/4/2026

Sources

银行医院为何必须用Local AI？本地大模型私有化部署全解析

bilibili亢老师-AIRTC7/1/2026

Related Claims

Unverified原本需要 A100 80GB 才能完成的 70B 参数模型微调任务，在 Unsloth 优化下可以在消费级 RTX 4090（24GB）上运行84% similar Unverified实测在RTX A6000（48GB显存）机器上，将10亿参数草稿模型挂载到Qwen3的3.4B目标模型进行测试80% similar Verified24GB显存的RTX 3090/4090可以使用Unsloth微调7B-13B规模的模型78% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/113436

API

curl https://kongchang.com/api/v1/knowledge/claims/113436

MCP

get_claim(id=113436)