人物
cyankiwi
Hugging Face 上的模型量化发布者,发布 AWQ INT4 量化模型
时间轴 (近 90 天)
10月15日
目前尚无 AREX-2 的 NVFP4 构建版本;可选量化版本包括 BAAI 的 BF16 原版(54.7 GB)、prithivMLmods 的 FP8(35.9 GB)、cyankiwi 的 AWQ INT4(20.2 GB)和 numsu 的 INT4 W4A16(18.6 GB)。
待验证50%
10月14日
Qwen3 Coder Next 是一个 80B 参数的混合专家(MoE)编程模型,由 vLLM 部署在一张 A100 80GB 上,使用 cyankiwi 发布的 4-bit AWQ 量化版本
待验证50%