Mistral Large 3
Mistral Large 3是由法国人工智能公司Mistral AI开发的大型语言模型,属于其旗舰级模型系列。该模型具备强大的多语言处理能力,支持复杂推理、代码生成与长文本理解,适用于企业级自然语言处理任务。其设计注重高性能与高效率的平衡,可通过API及本地部署方式使用,面向开发者和商业应用场景提供服务。
核心事实
时间轴 (近 90 天)
当上下文接近 512K token 时,预填充与解码解耦架构可确保用户在读取整本规格书后仍能在 800 毫秒内收到首个响应 token。
对于日处理量超过 5 亿 token 的大型企业,使用开放权重的 Mistral Large 3 本地部署,每百万 token 的有效成本可降至 $0.35 以下,相比闭源竞品 API 节省超过 80%。
Mistral Large 3 的分布式并行策略建议使用专家并行(EP=8 或 16)和张量并行(TP=4 或 8),并要求 InfiniBand / RoCE v2 + RDMA 网络每端口至少 400 Gbps。
Mistral Large 3 采用 128 个细粒度专家构成的 MoE 架构,每个 token 动态激活其中 8 个专家。
Mistral Large 3 总参数量为 4200 亿,解码阶段仅需承担 680 亿活跃参数的计算成本和延迟。
Mistral Large 3 支持 512,000 token 的原生上下文窗口,结合块稀疏注意力与硬件校准的旋转位置编码(RoPE)。
在 Needle In A Haystack 测试中,Mistral Large 3 在半个百万 token 窗口的任意深度象限都实现了 99.8% 的检索精度。
Mistral Large 3 权重以 FP8/BF16 格式开放下载,可在本地主权云或完全离线的气隙环境中部署。
在 SWE-bench Verified 基准测试中,Mistral Large 3 达到 53.8% 的得分。
在 Terminal-Bench 4.0 基准测试中,Mistral Large 3 取得 65.2% 的得分,排名全球第二。
还有 3 条时间轴事件
全部知识事实 (13)
Mistral Large 4在Artificial Analysis综合智能指数上仅得38分,剔除闭源模型后位列开源第六
70%待验证Mistral Large 3 采用 128 个细粒度专家构成的 MoE 架构,每个 token 动态激活其中 8 个专家。
50%待验证Mistral Large 3 总参数量为 4200 亿,解码阶段仅需承担 680 亿活跃参数的计算成本和延迟。
50%待验证Mistral Large 3 支持 512,000 token 的原生上下文窗口,结合块稀疏注意力与硬件校准的旋转位置编码(RoPE)。
50%待验证在 Needle In A Haystack 测试中,Mistral Large 3 在半个百万 token 窗口的任意深度象限都实现了 99.8% 的检索精度。
50%待验证Mistral Large 3 权重以 FP8/BF16 格式开放下载,可在本地主权云或完全离线的气隙环境中部署。
50%待验证在 Terminal-Bench 4.0 基准测试中,Mistral Large 3 取得 65.2% 的得分,排名全球第二。
50%待验证在 8x H200/B200 节点上,Mistral Large 3 持续生成速度达到 142 tokens/秒。
50%待验证Mistral Large 3 的分布式并行策略建议使用专家并行(EP=8 或 16)和张量并行(TP=4 或 8),并要求 InfiniBand / RoCE v2 + RDMA 网络每端口至少 400 Gbps。
50%待验证在 SWE-bench Verified 基准测试中,Mistral Large 3 达到 53.8% 的得分。
50%待验证从Large 3到Large 4,总参数增长56%,激活参数仅增长20%
50%待验证当上下文接近 512K token 时,预填充与解码解耦架构可确保用户在读取整本规格书后仍能在 800 毫秒内收到首个响应 token。
50%待验证对于日处理量超过 5 亿 token 的大型企业,使用开放权重的 Mistral Large 3 本地部署,每百万 token 的有效成本可降至 $0.35 以下,相比闭源竞品 API 节省超过 80%。
50%