模型gpt-oss:120b / GPT-OSS 120B
gpt-oss:120b
OpenAI 开源的 120B 参数大语言模型,采用 MoE 架构,可在消费级硬件上通过量化运行,适用于本地推理和编排任务。
时间轴 (近 90 天)
10月14日
77GB的协调者模型gpt-oss:120b无法与其调用的工作模型共享同一台机器,每次委派任务会触发约100GB的模型交换,一个简单问候耗时近五分钟。
待验证50%
10月14日
将工作模型迁移到配备GTX 1060的5600G第二台主机后,gpt-oss:120b在1小时46分钟的长时间运行中持续驻留、完全没有交换,编排可靠性超过了Gemma。
待验证50%
10月14日
当120B协调者驻留(约77GB)时,系统仅约3GB内存空闲;多图像运行中第一张图完成,其余图像在300秒限制处超时并回退为占位符。
待验证50%
10月14日
120B相对于20B的唯一真正优势是更可靠的编排,但即使是这一点也没有解决它本应解决的更深层可靠性问题。
待验证50%
全部知识事实 (4)
待验证
120B相对于20B的唯一真正优势是更可靠的编排,但即使是这一点也没有解决它本应解决的更深层可靠性问题。
50%待验证77GB的协调者模型gpt-oss:120b无法与其调用的工作模型共享同一台机器,每次委派任务会触发约100GB的模型交换,一个简单问候耗时近五分钟。
50%待验证将工作模型迁移到配备GTX 1060的5600G第二台主机后,gpt-oss:120b在1小时46分钟的长时间运行中持续驻留、完全没有交换,编排可靠性超过了Gemma。
50%待验证当120B协调者驻留(约77GB)时,系统仅约3GB内存空闲;多图像运行中第一张图完成,其余图像在300秒限制处超时并回退为占位符。
50%