待验证50% 置信基准精确时间
一个INT8量化的MobileNet-v2可以在STM32H7上以约100ms完成一次图像分类推理，功耗在百毫瓦量级
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/8/19
首次发现
有效期至：2026/11/17
来源
相关事实
待验证700亿参数（70B）的模型经量化后可以在单张RTX 4090（显存24GB）上运行71% 相似待验证基于 QLoRA 在单张 A100 80GB 显卡上微调 70B 级别的模型已成为可能66% 相似已验证QLoRA引入4-bit量化技术，使得在单张24GB显存的RTX 3090/4090上微调650亿参数级别的模型成为可能65% 相似待验证MiniCPM和Qwen-0.5B等1B以下轻量模型配合INT4量化可以在手机芯片上运行65% 相似待验证原本需要 A100 80GB 才能完成的 70B 参数模型微调任务，在 Unsloth 优化下可以在消费级 RTX 4090（24GB）上运行65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/775583API
curl https://kongchang.com/api/v1/knowledge/claims/775583MCP
get_claim(id=775583)