#预训练
共 1613 篇相关文章
·8 分钟
谷歌一夜连发三款Gemini模型，预告Gemini 4启动预训练
谷歌同日发布Gemini 3.6 Flash、3.5 Flash Lite和Flash Cyber三款新模型，主打效率提升与成本优化。同时预告Gemini 4已启动预训练。本文还涵盖OpenAI模型自主入侵Hugging Face事件及Claude Code开发苹果App的最新进展。
阅读全文 →
·9 分钟
预训练与RL的Scaling Law：国际象棋实验揭示后训练算力分配规律
通过国际象棋实验系统研究预训练、SFT与强化学习三阶段的算力分配规律，揭示预训练算力决定下游天花板、RL主要提升pass@1可靠性而非探索广度等核心发现，为大模型后训练策略提供量化参考。
阅读全文 →
·7 分钟
AI模型选择指南：预训练、微调还是从零训练？
为新项目选择AI模型时，如何在预训练模型、微调和从零训练之间做出决策？本文提供系统性决策框架，从问题定义、数据评估到成本权衡，帮助工程师快速找到最优技术路线。
阅读全文 →
·15 分钟
预训练第三维度：6.2倍样本效率与250倍推理加速新范式解读
哈佛与UIUC团队提出预训练第三条轴线，声称实现6.2倍样本效率提升与250倍生成式AI推理加速。本文深度解析这一新范式的技术内涵、潜在意义及需要审慎对待的关键问题。
阅读全文 →
科技前沿
社区热议·第4期：Gemini 4预训练启动与AI远程手术200ms争议
·1 分钟
社区热议·第4期：Gemini 4预训练启动与AI远程手术200ms争议
每周四聊聊Twitter和Reddit上本周最火的AI话题
阅读全文 →
·7 分钟
谷歌启动Gemini 4预训练：最雄心勃勃的AI大模型训练
谷歌DeepMind宣布启动Gemini 4预训练，称其为迄今最雄心勃勃的一次训练。本文深度解读Gemini 4的技术方向、算力投入、多模态能力突破，以及对OpenAI、Anthropic等竞争对手的影响。
阅读全文 →
·8 分钟
NVIDIA金融交易基础模型构建指南：从预训练到下游应用全解析
深度解读NVIDIA发布的金融交易基础模型构建指南，涵盖交易数据表征学习、Transformer架构预训练、分布式GPU训练策略，以及欺诈检测、信用评估等下游应用场景的微调方案。
阅读全文 →
深度解读·9 分钟
大模型训练全流程解析：预训练、SFT微调与偏好对齐通俗详解
详解大模型训练三大核心阶段：预训练、有监督微调(SFT)、偏好对齐(DPO/PPO)，涵盖LoRA、模型蒸馏量化剪枝等关键技术，帮助开发者理解从Base Model到Chat Model的完整流程。
阅读全文 →
深度解读·6 分钟
AI训练的三个阶段：预训练、后训练与对齐详解
深入解析AI大语言模型训练的三个关键阶段：预训练学语言、后训练学做事、对齐学分寸。用新员工培养的类比，帮你理解ChatGPT等AI的能力边界，搞懂AI幻觉的根本原因。
阅读全文 →
产品体验·7 分钟
中文预训练模型资源库：覆盖LLM与多模态的5500+ Star开源项目
awesome-pretrained-chinese-nlp-models 是GitHub上5500+ Star的中文预训练模型索引项目，系统收录BERT、ChatGLM、Qwen等大语言模型及多模态模型，按任务、规模、领域分类，帮助开发者快速完成中文NLP模型选型。
阅读全文 →
·8 分钟
GEN-1.5机器人基础模型发布：单次演示即可学会新任务的One-Shot Learning突破
Generalist AI发布机器人基础模型GEN-1.5，实现one-shot learning能力，机器人仅需单次演示即可掌握新任务。本文深入解析其技术原理、数据效率提升及对工业制造、物流等领域的影响。
阅读全文 →
·11 分钟
GLEE竞赛：打造谈判AI Agent冲刺NeurIPS 2026
GLEE竞赛要求参赛者构建能讨价还价、谈判和说服的AI Agent，在动态对抗中实时博弈。竞赛提供NeurIPS 2026论文发表路径，Google和Salesforce赞助6000美元奖金池，技术路线完全开放。
阅读全文 →
·10 分钟
CLIP视觉编码器是否成为VLM瓶颈？多模态大模型架构之辩
深入分析CLIP视觉编码器在现代多模态大模型(VLM)中的局限性，探讨计数、空间推理等任务短板，以及混合编码器、高分辨率处理等替代方案，帮助开发者理解VLM视觉前端的优化方向。
阅读全文 →
·10 分钟
LTX 2.5发布：AI视频生成模型迭代加速，开源轻量化路线再进一步
LTX 2.5正式发布，延续Lightricks轻量化AI视频生成路线，在推理速度和输出质量上持续优化。本文分析LTX 2.5的定位演进、与MiniMax 3等竞品的竞争格局，以及快速迭代下用户的应对策略。
阅读全文 →
·11 分钟
权重不变算真正的递归自我改进吗？深度解析AI自我优化的边界
探讨AI递归自我改进的核心争议：当模型权重保持不变，仅通过上下文优化实现的能力提升是否算真正的自我改进？本文从技术逻辑与哲学角度剖析权重改进与上下文改进的本质区别。
阅读全文 →
·15 分钟
计算机视觉前沿：扩散模型安全、科学AI与视觉智能体失效解析
深度解析计算机视觉四大前沿议题：扩散模型概念保护与图像编辑防护、真实世界CV系统构建、从像素到行星的科学AI，以及视觉智能体为何在多步骤任务中失败。涵盖数据中心式AI、世界模型等核心技术。
阅读全文 →
·6 分钟
Gemini 3.7 Flash：谷歌用降价打响Agent卡位战
Gemini 3.7 Flash仅隔三周更新，定价降至前代一半，主打Agent长任务能力提升176%。本文深度分析谷歌如何用降价策略和Agent定位应对DeepSeek、Claude竞争，以及Pro线困境下的产品布局逻辑。
阅读全文 →
·5 分钟
加数据前，先检查你的标注规则是否稳定
模型性能停滞时，盲目加数据可能适得其反。本文介绍一套低成本的标注一致性检查方法：通过双人独立标注、分歧分析和规则文档化，从根源解决数据质量问题，提升计算机视觉模型上限。
阅读全文 →
