MAI Code 1.1 Flash

微软AI开发了MAI Code 1.1 Flash的本地版本，这是一个面向编程优化的混合专家（MoE）模型。

MAI Code 1.1 Flash本地版本总参数量达1370亿，每次推理仅激活68亿参数。

即便采用量化，137B模型的显存占用仍远超单张消费级显卡的显存上限，多卡拆分或CPU+GPU混合推理往往是必要选项。

将模型放到本地运行可以消除代码上传到云端服务的合规顾虑，并可与沙箱化工具配合完成代码生成、测试和调试的闭环。

Reddit社区成员指出，137B总参数即使采用量化，部署时的存储和加载成本依然不低，官方尚未给出明确的硬件要求。