[控场AI]

#分布式训练

共 16 篇相关文章

AMD RCCL GPU发起网络集成TorchTitan:MoE通信性能提升15%
·5 分钟

AMD RCCL GPU发起网络集成TorchTitan:MoE通信性能提升15%

AMD将RCCL的GPU发起网络(GIN)集成到PyTorch TorchTitan框架,优化MoE模型的all-to-all通信,实现内核性能最高提升30%、端到端训练性能提升12%至15%,为分布式大模型训练提速。

阅读全文 →
Cursor Composer 2训练揭秘:分布式强化学习架构全解析
前沿研究
·7 分钟

Cursor Composer 2训练揭秘:分布式强化学习架构全解析

深度解析Cursor如何在Fireworks上训练Composer 2模型,涵盖异步流水线架构、MoE模型数值精度挑战、Router Replay技术、全球分布式GPU集群协同等核心技术方案,揭示AI编程工具从应用公司迈向基础模型公司的关键路径。

阅读全文 →
Cursor Composer 2分布式RL训练技术解析
前沿研究
·5 分钟

Cursor Composer 2分布式RL训练技术解析

深度解析Cursor如何通过分布式强化学习训练Composer 2模型,涵盖异步流水线设计、MoE数值对齐、全球权重同步、在线离线RL协同等核心技术细节,揭示AI编程工具从应用到基础模型的转型路径。

阅读全文 →
NCCL Inspector详解:GPU集群通信实时监控与Prometheus集成实践
教程攻略
·11 分钟

NCCL Inspector详解:GPU集群通信实时监控与Prometheus集成实践

深入解析NVIDIA NCCL Inspector工具,介绍其与Prometheus深度集成实现GPU集群通信实时监控的方案,涵盖慢节点定位、告警配置、Grafana可视化等实际应用场景,助力大规模分布式训练性能优化。

阅读全文 →
Cube Studio深度解析:腾讯开源一站式MLOps平台
产品体验
·10 分钟

Cube Studio深度解析:腾讯开源一站式MLOps平台

深度解析腾讯音乐开源的Cube Studio一站式AI平台,涵盖架构设计、分布式训练、大模型微调推理、国产化适配等核心能力,帮助企业高效落地MLOps全流程。

阅读全文 →
Decoupled DiLoCo详解:让大规模GPU训练不再怕宕机
深度解读
·8 分钟

Decoupled DiLoCo详解:让大规模GPU训练不再怕宕机

深入解析Decoupled DiLoCo分布式训练方法,了解它如何通过解耦训练单元实现容错能力,让大规模AI训练在节点故障时仍能继续运行,将停机损失从100%降至1%。

阅读全文 →
Cube Studio:腾讯开源云原生AI平台全面解析
产品体验
·9 分钟

Cube Studio:腾讯开源云原生AI平台全面解析

深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖分布式训练、大模型微调推理、Pipeline编排、国产化适配等核心能力,助力企业快速构建一站式MLOps基础设施。

阅读全文 →
Cube Studio:腾讯开源一站式AI平台,MLOps全流程深度解析
产品体验
·8 分钟

Cube Studio:腾讯开源一站式AI平台,MLOps全流程深度解析

深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖Notebook开发、Pipeline编排、分布式训练、大模型微调、推理部署及国产化适配等核心能力,助力企业快速构建MLOps全流程基础设施。

阅读全文 →
Cube Studio:腾讯开源云原生一站式AI平台深度解析
产品体验
·3 分钟

Cube Studio:腾讯开源云原生一站式AI平台深度解析

阅读全文 →
Cube Studio:腾讯开源一站式AI平台,覆盖大模型训练到推理全流程
产品体验
·11 分钟

Cube Studio:腾讯开源一站式AI平台,覆盖大模型训练到推理全流程

深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖分布式训练、大模型微调、vLLM推理部署、VGPU虚拟化及国产化昇腾适配等核心能力,助力企业高效落地MLOps全流程。

阅读全文 →
Cube Studio深度解析:腾讯开源一站式AI平台
产品体验
·11 分钟

Cube Studio深度解析:腾讯开源一站式AI平台

深度解析腾讯开源AI平台Cube Studio,涵盖分布式训练、大模型微调推理、Pipeline编排、VGPU虚拟化等核心功能,支持华为昇腾国产生态,助力企业快速搭建云原生MLOps基础设施。

阅读全文 →
Cube Studio深度解析:腾讯开源一站式云原生AI平台
产品体验
·12 分钟

Cube Studio深度解析:腾讯开源一站式云原生AI平台

深度解析腾讯开源AI平台Cube Studio,覆盖分布式训练、大模型微调、推理部署、VGPU虚拟化及国产化适配等核心功能,帮助企业构建MLOps全流程一站式AI基础设施。

阅读全文 →