[控场AI]
模型gpt-oss:120b / GPT-OSS 120B

gpt-oss:120b

OpenAI 开源的 120B 参数大语言模型,采用 MoE 架构,可在消费级硬件上通过量化运行,适用于本地推理和编排任务。

时间轴 (近 90 天)

10月14日

77GB的协调者模型gpt-oss:120b无法与其调用的工作模型共享同一台机器,每次委派任务会触发约100GB的模型交换,一个简单问候耗时近五分钟。

待验证50%
10月14日

将工作模型迁移到配备GTX 1060的5600G第二台主机后,gpt-oss:120b在1小时46分钟的长时间运行中持续驻留、完全没有交换,编排可靠性超过了Gemma。

待验证50%
10月14日

当120B协调者驻留(约77GB)时,系统仅约3GB内存空闲;多图像运行中第一张图完成,其余图像在300秒限制处超时并回退为占位符。

待验证50%
10月14日

120B相对于20B的唯一真正优势是更可靠的编排,但即使是这一点也没有解决它本应解决的更深层可靠性问题。

待验证50%

全部知识事实 (4)

来源文章