待验证50% 置信事实精确时间
MLX方面,上游mlx-lm尚不认识hy_v3,但hermitdave的Mixed4-6构建自带hy_v3.py并由config指向,可直接用原版mlx-lm加载;上传者报告M3 Max 64 GB上解码约65 tok/s,困惑度与8位版本差距0.94%以内,提取测试70/70事实召回。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至:2027/1/15
来源
涉及实体
相关事实
待验证Qwen 9B 模型使用 MLX 格式加载时内存峰值约 5.1GB70% 相似待验证在公平的4-bit对比中,MLX搭配D-Flash 2推测解码跑出16.6 tokens/s,对比Ollama Q4的5.7 tokens/s69% 相似待验证Qwen 27B的Q4_K_M/GGUF版本在同一台机器上解码速度约为10.7 tok/s,约为MLX版本的1/3.869% 相似待验证在M4 24GB设备上,9B模型(如qwen3.5-32k:9b-mlx)运行速度快、内存占用小,但无法有效发现代码问题69% 相似待验证MiniMax H3的权重总计67GB,包括34GB的DiT主干、27GB的Qwen3-VL编码器加上VAE66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1054170API
curl https://kongchang.com/api/v1/knowledge/claims/1054170MCP
get_claim(id=1054170)