[控场AI]
模型Caphlon-Model

Caphlon-Model

通过词表瘦身、层剪枝和低比特动态量化三步压缩得到的单语英文大模型,输出为 GGUF 单文件,主打消费级硬件本地部署

时间轴 (近 90 天)

10月30日

Caphlon-Model的构建分为三步:词表手术、层剪枝、量化。

待验证50%
10月30日

词表手术将合并表缩减到100k目标,节省约649 MiB,代价是模型变成严格英文单语。

待验证50%
10月30日

层剪枝移除了第12至15层这4个冗余层,节省约302 MiB。

待验证50%
10月30日

量化采用Unsloth Dynamic IQ2_S格式,最终得到6.87 GiB的单文件体积。

待验证50%
10月30日

在Tesla T4上使用llama.cpp评测,HumanEval pass@1保留率为96.7%(29/30)。

待验证50%
10月30日

在Tesla T4上使用llama.cpp评测,MMLU子集保留率为92.9%(344/502)。

待验证50%
10月30日

英文困惑度为6.6088,对比基线的6.3638。

待验证50%
10月30日

这些基准测试结果目前是单一来源的自我报告,评测集规模有限(HumanEval 30题、MMLU子集502题),尚未经社区独立复现和交叉验证。

待验证50%
10月30日

Caphlon-Model的定位是英文、低内存、单文件,适合资源受限的本地推理和边缘设备实验。

待验证50%
10月30日

作者在GitHub、项目官网和Hugging Face上公开了模型与代码(demiralpdev/Caphlon-Model、caphlon.dev、ssuasd/Caphlon-Model)。

待验证50%

全部知识事实 (10)

来源文章