产品KoboldAI / KoboldCpp
Kobold
用于本地运行大语言模型的开源推理后端工具，常用于角色扮演和创意写作场景，支持多种量化格式和上下文扩展
时间轴 (近 90 天)
10月11日
该测试的硬件基准为10-16GB显存配合26-32GB内存，借助Kobold或llama.cpp后端，可在最高64K上下文窗口下运行
待验证50%
10月11日
Kobold无法加载体积较大的模型，Qwen 35B（约20.6GB）和GLM 31B（约17.7GB）需用LLAMA后端
待验证50%