#大模型训练流程
共 12 篇相关文章
·15 分钟
微调Qwen3-4B实录：100条数据解决角色混乱问题
分享Qwen3-4B模型微调实践全过程，通过补充100-200条身份稳定数据，成功解决角色混乱问题。详解小模型微调中的数据策略、效果验证方法及MoE架构进阶规划。
阅读全文 →
·9 分钟
预训练与RL的Scaling Law：国际象棋实验揭示后训练算力分配规律
通过国际象棋实验系统研究预训练、SFT与强化学习三阶段的算力分配规律，揭示预训练算力决定下游天花板、RL主要提升pass@1可靠性而非探索广度等核心发现，为大模型后训练策略提供量化参考。
阅读全文 →
·6 分钟
Claude与GPT知识截止时间详解：如何判断AI知识边界
深入解析Claude和GPT等大语言模型的知识截止时间概念，了解预训练数据截止点、模型发布时间的区别，掌握验证AI真实知识边界的方法，以及RAG技术如何突破时间限制。
阅读全文 →
·14 分钟
用RL讨好奖励模型：Elo飙升背后的Reward Hacking隐忧
当强化学习不断优化模型去迎合奖励模型时，飙升的Elo分数真的代表能力提升吗？深入解析RLHF训练中的Reward Hacking现象、Goodhart定律的AI应验，以及业界如何应对奖励过优化问题。
阅读全文 →
·11 分钟
ZCodeAI免费AI Agent工具评测：多模型聚合零成本上手
详细评测智谱公司推出的ZCodeAI桌面端AI Agent工具，内置DeepSeek V4 Flash、小米MiMo等免费大模型，支持多模型聚合切换，无需API Key即可使用，适合学习辅助和日常办公。
阅读全文 →
·7 分钟
Claude Opus 4.8自称DeepSeek翻车事件：语料污染还是蒸馏？技术真相解析
Anthropic新模型Claude Opus 4.8上线不到两小时翻车，用中文提问竟自称DeepSeek和通义千问。本文深度分析语料污染与蒸馏假说，揭示中文对齐缺失的技术根因及AI行业蒸馏技术的正确理解。
阅读全文 →
深度解读·9 分钟
大模型训练全流程解析：预训练、SFT微调与偏好对齐通俗详解
详解大模型训练三大核心阶段：预训练、有监督微调(SFT)、偏好对齐(DPO/PPO)，涵盖LoRA、模型蒸馏量化剪枝等关键技术，帮助开发者理解从Base Model到Chat Model的完整流程。
阅读全文 →
深度解读·8 分钟
阿里QwQ-32B开源：32B参数如何媲美671B的DeepSeek R1
阿里开源推理模型QwQ-32B仅用32B参数，在多项基准测试中媲美甚至超越DeepSeek R1满血版（671B）。本文深度解析其两阶段强化学习训练策略、性能对比数据，以及强化学习带来的能力涌现现象，揭示小参数模型以小博大的核心秘密。
阅读全文 →
科技前沿·9 分钟
Swarm IDE：开源多智能体协作开发环境，1500 Star的Agent编排利器
Swarm IDE 是专为 Agent Swarm 多智能体协作打造的开源 IDE，支持 Kimi-2.5、GLM-4.7 等模型，提供可视化编排、调试和管理能力，GitHub 短时间内收获近 1500 Star。本文深度解析其技术特点与应用前景。
阅读全文 →
产品体验·11 分钟
Unsloth：本地训练开源大模型的高效工具，6万星标的秘密
深入解析Unsloth这款GitHub 6万+星标的开源大模型训练工具，支持Gemma 4、Qwen3、DeepSeek等主流模型的本地微调与推理，通过LoRA/QLoRA技术大幅降低显存需求，助力开发者在消费级显卡上高效训练大模型。
阅读全文 →
产品体验·14 分钟
Cube Studio：腾讯开源一站式AI平台，大模型训练到推理全覆盖
深度解析腾讯音乐开源的Cube Studio云原生AI平台，涵盖分布式训练、DeepSeek大模型微调、vLLM推理部署、VGPU算力管理等核心功能，支持华为昇腾国产化生态，助力企业构建私有AI基础设施。
阅读全文 →
产品体验·4 分钟
Cube Studio开源AI平台深度评测：腾讯音乐这个MLOps全流程平台到底值不值得用？
深度解析腾讯音乐开源的Cube Studio云原生AI平台，覆盖MLOps全流程、大模型训练推理、国产芯片兼容等核心能力，帮你判断这个一站式机器学习平台是否适合你的团队。
阅读全文 →