待验证50% 置信事实精确时间
FSPO在Olmo3-7B-Instruct上训练时,峰值显存从约70GB降至56GB,节省14GB。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
FSPO:函数空间时序自蒸馏,让策略优化更稳更省
rss2026/10/14
涉及实体
相关事实
待验证一个7B参数模型在FP16格式下仅模型权重就需要约14GB显存,训练总显存需求可能膨胀到50-80GB66% 相似已验证Strata使用低比特量化,最小配置约需38GB的内存+显存总和,最高质量配置约需55GB,64GB系统内存是理想目标65% 相似待验证将协调者降级到gpt-oss:20b(约14GB)后,留下约60GB空闲内存,足以同时进行协调和图像生成,无交换也无守护拒绝。65% 相似待验证基于Nunchaku的FP4模型(svdq-fp4_r32)体积为6.6GB,可完整装入8GB显存无需CPU卸载,每步耗时降至3.4-3.8秒65% 相似待验证嵌入模型对显存的需求远低于对话模型,表中除Qwen3-Embedding-8B外,所有在bfloat16精度下测量的模型峰值显存均低于2.5 GiB,量化后的Ollama文件约1.2 GB或更少,8GB内存的笔记本即可运行64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037324API
curl https://kongchang.com/api/v1/knowledge/claims/1037324MCP
get_claim(id=1037324)