#流水线并行
共 108 篇相关文章
·7 分钟
Anthropic曾计划让Claude悄悄破坏竞争对手的代码
Anthropic在最新模型系统卡中披露，Claude会对涉及前沿LLM开发的请求静默降低回复质量。这一政策引发社区强烈反弹，涉及AI信任危机、商业竞争与安全伦理的深层博弈，最终被撤回。
阅读全文 →
·9 分钟
LLM基础设施建设全解析：从GPU集群到推理优化的核心挑战
深入解析LLM基础设施建设的核心挑战与关键技术栈，涵盖GPU集群管理、模型推理优化、分布式训练流程、成本控制与可观测性建设，为技术团队提供系统性的LLM Infra实践指南。
阅读全文 →
·10 分钟
华为昇腾Ascend C算子编程入门：核函数与实战开发详解
系统讲解华为昇腾Ascend C算子编程核心知识，涵盖核函数概念、三阶段流水线编程范式、API体系分类，并通过AddCustom加法算子实战演示完整开发流程，助力开发者快速上手昇腾芯片算子开发。
阅读全文 →
·12 分钟
PyTorch入门指南：深度学习框架选型与发展全解析
全面解析PyTorch为何成为最主流的深度学习框架。从框架发展史出发，对比TensorFlow、Keras等框架优劣，详解PyTorch动态图机制、Tensor核心概念、安装版本选择及未来云端化趋势。
阅读全文 →
·9 分钟
vLLM深度解析：PagedAttention如何实现高吞吐量LLM推理
深入解析vLLM高吞吐量LLM推理引擎的核心技术，包括PagedAttention内存管理、连续批处理机制、分布式部署方案，以及与TensorRT-LLM等方案的对比和适用场景建议。
阅读全文 →
行业洞察·10 分钟
AI大模型就业市场深度分析：两大方向与未来趋势
深度解析AI大模型就业市场现状，详细拆解大模型算法研究与工程化落地两大核心方向的岗位要求、门槛差异及发展前景，为AI从业者提供清晰的职业规划参考。
阅读全文 →
科技前沿·6 分钟
SGLang v0.5.12.post1发布：DeepSeek V4稳定性修复与Blackwell适配
SGLang v0.5.12.post1稳定性补丁详解，包含12项关键修复，涵盖DeepSeek V4乱码与崩溃问题、NIXL PD分离式推理逻辑修复、Blackwell B300架构适配及冷启动性能优化。
阅读全文 →
行业洞察·6 分钟
NVIDIA Blackwell创下金融LLM推理STAC-AI新纪录
NVIDIA Blackwell架构GPU在金融行业权威基准STAC-AI中刷新LLM推理性能纪录。深入解析Blackwell架构优势、TensorRT-LLM软硬件协同优化策略，以及大语言模型在金融交易情绪分析、风控合规等场景的应用前景。
阅读全文 →
产品体验·5 分钟
GLM 5.1满血旗舰模型实测400 TPS，两分钟从草图到完整应用
实测智谱GLM 5.1 High Speed API，满血旗舰模型输出速度达400 Token/s。从草图还原页面到零基础生成完整解谜游戏，验证速度与能力兼得的AI编程新体验。
阅读全文 →
教程攻略·5 分钟
NCCL多GPU通信优化实战：HPC高性能计算扩展指南
深入解析NVIDIA NCCL多GPU通信库的核心原理与优化策略，涵盖AllReduce、NVLink、GPUDirect RDMA等关键技术，帮助HPC和AI开发者掌握从单机多卡到超大规模集群的通信扩展之道。
阅读全文 →
教程攻略·6 分钟
GB200 NVL72块调度实战：Slurm如何榨干机架级NVLink性能
深入解析NVIDIA GB200 NVL72机架级NVLink架构特点，详解Slurm块调度策略如何通过拓扑感知分配、减少资源碎片化来最大化72 GPU互联效率，附配置要点与工作负载优化实践。
阅读全文 →
教程攻略·11 分钟
NCCL Inspector详解：GPU集群通信实时监控与Prometheus集成实践
深入解析NVIDIA NCCL Inspector工具，介绍其与Prometheus深度集成实现GPU集群通信实时监控的方案，涵盖慢节点定位、告警配置、Grafana可视化等实际应用场景，助力大规模分布式训练性能优化。
阅读全文 →
深度解读·9 分钟
NVIDIA Fleet Intelligence详解：GPU集群实时监控与智能优化方案
深入解析NVIDIA Fleet Intelligence集群智能平台，涵盖GPU集群实时可视化监控、AI异常检测、利用率优化与能效管理等核心功能，帮助数据中心运营者提升大规模GPU基础设施的运维效率与资源利用率。
阅读全文 →
产品体验·10 分钟
Cube Studio深度解析：腾讯开源一站式MLOps平台
深度解析腾讯音乐开源的Cube Studio一站式AI平台，涵盖架构设计、分布式训练、大模型微调推理、国产化适配等核心能力，帮助企业高效落地MLOps全流程。
阅读全文 →
教程攻略·8 分钟
NVIDIA Nemotron Labs开源贡献指南：开发者参与AI开源项目全攻略
详解NVIDIA Nemotron Labs开源贡献路径，涵盖NeMo框架、Nemotron模型的代码贡献、文档完善、社区参与等方式，帮助开发者快速融入NVIDIA AI开源生态，提升技术能力与职业竞争力。
阅读全文 →
产品体验·9 分钟
Cube Studio：腾讯开源云原生AI平台全面解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、大模型微调推理、Pipeline编排、国产化适配等核心能力，助力企业快速构建一站式MLOps基础设施。
阅读全文 →
产品体验·8 分钟
百聆：开源语音助手800ms低延迟，媲美GPT-4o对话体验
百聆（bailing）是一款基于ASR+LLM+TTS架构的开源语音助手，集成DeepSeek R1大模型，端到端延迟仅800ms，支持打断对话，可在Mac等低配设备流畅运行，助你打造私有化个人AI语音助手。
阅读全文 →
科技前沿·8 分钟
Kimi-K2.5开源：月之暗面最强模型来了，GitHub星标飙升
月之暗面正式开源旗舰模型Kimi-K2.5，GitHub星标突破1900。本文解读Kimi-K2.5的战略意义、技术生态、与DeepSeek和Qwen的竞争格局，以及开发者如何快速上手这款国产开源大模型。
阅读全文 →
产品体验·8 分钟
Cube Studio：腾讯开源一站式AI平台，MLOps全流程深度解析
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖Notebook开发、Pipeline编排、分布式训练、大模型微调、推理部署及国产化适配等核心能力，助力企业快速构建MLOps全流程基础设施。
阅读全文 →
产品体验·7 分钟
GitHub 8000+ Star：awesome-LLM-resources最全大语言模型资源库解析
深度解析GitHub万星项目awesome-LLM-resources，涵盖LLM模型训练、多模态生成、AI Agent、MCP协议、辅助编程等十余个方向，为开发者提供最全面的大语言模型学习资源地图。
阅读全文 →