待验证50% 置信事实精确时间
awareliquid团队公布的实验显示,O系列推理进程在无会话连接时内存恒定在0.381 MB(125M模型规模)。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/19
首次发现
有效期至:2027/1/17
来源
0.381MB的幽灵:会话结束后仍在的AI记忆
rss2026/10/19
涉及实体
相关事实
待验证嵌入模型对显存的需求远低于对话模型,表中除Qwen3-Embedding-8B外,所有在bfloat16精度下测量的模型峰值显存均低于2.5 GiB,量化后的Ollama文件约1.2 GB或更少,8GB内存的笔记本即可运行69% 相似待验证7B参数的量化模型在16GB内存的普通电脑上即可流畅对话68% 相似待验证通过Ollama,一台配备16GB内存的普通电脑就能运行7B到14B参数的模型用于日常任务67% 相似待验证演示中构造了10000×10000×10规模的Float32Array作为测试数据,规模达到GB级别,单次计算耗时一秒多,其中约一秒是4GB内存空间的初始化而非语言交互开销67% 相似待验证77GB的协调者模型gpt-oss:120b无法与其调用的工作模型共享同一台机器,每次委派任务会触发约100GB的模型交换,一个简单问候耗时近五分钟。67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1067222API
curl https://kongchang.com/api/v1/knowledge/claims/1067222MCP
get_claim(id=1067222)