模型xLama
xLama v3
支持混合量化的大语言模型系列，采用不同层不同比特率的策略，可将14B模型部署在8GB显存上
时间轴 (近 90 天)
10月30日
xLama v3 采用不同层不同比特率的混合量化，可将 14B 模型塞进 8GB VRAM，实测 VRAM 几乎吃满。
待验证50%
支持混合量化的大语言模型系列，采用不同层不同比特率的策略，可将14B模型部署在8GB显存上
xLama v3 采用不同层不同比特率的混合量化，可将 14B 模型塞进 8GB VRAM，实测 VRAM 几乎吃满。