#分布式训练
共 16 篇相关文章

AMD RCCL GPU发起网络集成TorchTitan:MoE通信性能提升15%
AMD将RCCL的GPU发起网络(GIN)集成到PyTorch TorchTitan框架,优化MoE模型的all-to-all通信,实现内核性能最高提升30%、端到端训练性能提升12%至15%,为分布式大模型训练提速。
前沿研究Cursor Composer 2训练揭秘:分布式强化学习架构全解析
深度解析Cursor如何在Fireworks上训练Composer 2模型,涵盖异步流水线架构、MoE模型数值精度挑战、Router Replay技术、全球分布式GPU集群协同等核心技术方案,揭示AI编程工具从应用公司迈向基础模型公司的关键路径。
前沿研究Cursor Composer 2分布式RL训练技术解析
深度解析Cursor如何通过分布式强化学习训练Composer 2模型,涵盖异步流水线设计、MoE数值对齐、全球权重同步、在线离线RL协同等核心技术细节,揭示AI编程工具从应用到基础模型的转型路径。
教程攻略NCCL Inspector详解:GPU集群通信实时监控与Prometheus集成实践
深入解析NVIDIA NCCL Inspector工具,介绍其与Prometheus深度集成实现GPU集群通信实时监控的方案,涵盖慢节点定位、告警配置、Grafana可视化等实际应用场景,助力大规模分布式训练性能优化。
产品体验Cube Studio深度解析:腾讯开源一站式MLOps平台
深度解析腾讯音乐开源的Cube Studio一站式AI平台,涵盖架构设计、分布式训练、大模型微调推理、国产化适配等核心能力,帮助企业高效落地MLOps全流程。
深度解读Decoupled DiLoCo详解:让大规模GPU训练不再怕宕机
深入解析Decoupled DiLoCo分布式训练方法,了解它如何通过解耦训练单元实现容错能力,让大规模AI训练在节点故障时仍能继续运行,将停机损失从100%降至1%。
产品体验Cube Studio:腾讯开源云原生AI平台全面解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖分布式训练、大模型微调推理、Pipeline编排、国产化适配等核心能力,助力企业快速构建一站式MLOps基础设施。
产品体验Cube Studio:腾讯开源一站式AI平台,MLOps全流程深度解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖Notebook开发、Pipeline编排、分布式训练、大模型微调、推理部署及国产化适配等核心能力,助力企业快速构建MLOps全流程基础设施。
产品体验Cube Studio:腾讯开源云原生一站式AI平台深度解析
产品体验Cube Studio:腾讯开源一站式AI平台,覆盖大模型训练到推理全流程
深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖分布式训练、大模型微调、vLLM推理部署、VGPU虚拟化及国产化昇腾适配等核心能力,助力企业高效落地MLOps全流程。
产品体验Cube Studio深度解析:腾讯开源一站式AI平台
深度解析腾讯开源AI平台Cube Studio,涵盖分布式训练、大模型微调推理、Pipeline编排、VGPU虚拟化等核心功能,支持华为昇腾国产生态,助力企业快速搭建云原生MLOps基础设施。
产品体验Cube Studio深度解析:腾讯开源一站式云原生AI平台
深度解析腾讯开源AI平台Cube Studio,覆盖分布式训练、大模型微调、推理部署、VGPU虚拟化及国产化适配等核心功能,帮助企业构建MLOps全流程一站式AI基础设施。
产品体验Cube Studio深度解析:腾讯开源云原生AI平台,MLOps全流程实战指南
深度解析腾讯音乐开源的Cube Studio云原生AI平台,覆盖分布式训练、大模型SFT/RLHF微调、vLLM推理部署、VGPU虚拟化、国产昇腾适配等核心能力,助力企业快速构建MLOps全流程体系。
产品体验Cube Studio深度解析:腾讯开源一站式MLOps平台实战指南
深度解析腾讯开源AI平台Cube Studio的架构设计与核心能力,涵盖大模型训练微调、vLLM推理部署、分布式训练框架生态、昇腾国产化适配及VGPU算力管理,帮助企业快速构建私有化MLOps全流程。
产品体验Cube Studio:腾讯开源一站式云原生AI平台深度解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖MLOps全流程、大模型训练推理、分布式训练框架支持、VGPU虚拟化及国产化适配等核心能力,帮助企业高效构建AI基础设施。
产品体验Cube Studio:腾讯开源一站式AI平台,大模型训练到推理全覆盖
深度解析腾讯音乐开源的Cube Studio云原生AI平台,涵盖分布式训练、DeepSeek大模型微调、vLLM推理部署、VGPU算力管理等核心功能,支持华为昇腾国产化生态,助力企业构建私有AI基础设施。