[控场AI]
人物

cyankiwi

Hugging Face 上的模型量化发布者,发布 AWQ INT4 量化模型

时间轴 (近 90 天)

10月15日

目前尚无 AREX-2 的 NVFP4 构建版本;可选量化版本包括 BAAI 的 BF16 原版(54.7 GB)、prithivMLmods 的 FP8(35.9 GB)、cyankiwi 的 AWQ INT4(20.2 GB)和 numsu 的 INT4 W4A16(18.6 GB)。

待验证50%
10月14日

Qwen3 Coder Next 是一个 80B 参数的混合专家(MoE)编程模型,由 vLLM 部署在一张 A100 80GB 上,使用 cyankiwi 发布的 4-bit AWQ 量化版本

待验证50%

全部知识事实 (2)

来源文章