1250 亿参数模型能跑在 12G 显存上，核心依赖模型量化与混合专家（MoE）架构，通过只激活部分专家参数、将权重量化至 4bit 或更低并按需从内存或 SSD 动态加载未激活参数来实现。