#预训练数据
共 89 篇相关文章
观点碰撞·9 分钟
Scaling Law再思考：参数不是唯一答案
深度解析Scaling Law从Kaplan到Chinchilla再到MoE时代的演进历程，探讨为什么盲目堆参数是误区，以及GLM-5.3如何通过后训练证明扩展存在多个旋钮。
阅读全文 →
·9 分钟
微调Qwen3-4B实录：100条数据解决角色混乱问题
分享Qwen3-4B模型微调实践全过程，通过补充100-200条身份稳定数据，成功解决角色混乱问题。详解小模型微调中的数据策略、效果验证方法及MoE架构进阶规划。
阅读全文 →
·9 分钟
AI日报：GLM赠1亿token、GPT降价20%、智能体进入飞书办公
8月22日AI行业动态汇总：ZCode赠送1亿GLM Token、OpenAI GPT API降价超20%、DeepSeek多模态模型上线、Kimi AI同事Mira入驻飞书、GPT Image 2支持透明背景，AI竞争进入价格战与多模态能力竞赛新阶段。
阅读全文 →
·8 分钟
GEN-1.5机器人基础模型发布：单次演示即可学会新任务的One-Shot Learning突破
Generalist AI发布机器人基础模型GEN-1.5，实现one-shot learning能力，机器人仅需单次演示即可掌握新任务。本文深入解析其技术原理、数据效率提升及对工业制造、物流等领域的影响。
阅读全文 →
·17 分钟
CLIP视觉编码器是否成为VLM瓶颈？多模态大模型架构之辩
深入分析CLIP视觉编码器在现代多模态大模型(VLM)中的局限性，探讨计数、空间推理等任务短板，以及混合编码器、高分辨率处理等替代方案，帮助开发者理解VLM视觉前端的优化方向。
阅读全文 →
·8 分钟
用烘焙蛋糕理解LLM训练：一个直觉化的大模型隐喻
将大语言模型(LLM)训练比作烘焙蛋糕，从数据原料、架构配方、算力烘烤到微调对齐，用日常经验帮你直觉理解预训练、梯度下降、RLHF等核心概念。
阅读全文 →
·14 分钟
创意写作AI排名引热议：基准测试真的可信吗
Gemini 3.7 Flash创意写作排名第三引发Reddit社区激烈争论。用户质疑创意写作基准测试的可信度，讨论Claude写作风格固化、Fable辞藻堆砌等问题，探讨AI创意写作评估的主观性困境与改进方向。
阅读全文 →
·12 分钟
GLM-5.3发布：后训练扩展如何重塑AI编程能力
Z.ai发布GLM-5.3大模型，通过大规模后训练扩展在同一底座上实现编程能力跃迁，在智能体编程任务上达到开源SOTA水平，并在漏洞发现与网络防御领域展现涌现能力。深度解析其技术路线与行业意义。
阅读全文 →
·17 分钟
Muse-Glimmer-30B实测：24G显存跑出九维跑分76分的性价比之王
深度实测Meta开源Muse-Glimmer-30B模型，九大维度403道题综合均分76.04，工具调用90+分碾压同级。4bit量化几乎无损，24G显存轻松驱动，D-Flash加速3.1倍达233tokens/秒，是本地部署玩家的高性价比首选。
阅读全文 →
·12 分钟
语言学家入局AI：LLM评估背后的人力真相
一则时薪40-50美元的语言学专家招聘揭示AI训练幕后真相：大语言模型评估为何需要母语专家？RLHF人类反馈如何决定模型质量上限？解读AI产业中正在崛起的专家经济。
阅读全文 →
·12 分钟
小数据集训练DETR：无人机枯树检测实战解析
深入解析如何在仅5600张图像的小数据集上训练DETR进行无人机枯树检测。涵盖预训练微调、Deformable DETR变体选择、参数精简策略及数据增强技巧，提供完整的小样本目标检测解决方案。
阅读全文 →
·6 分钟
Claude与GPT知识截止时间详解：如何判断AI知识边界
深入解析Claude和GPT等大语言模型的知识截止时间概念，了解预训练数据截止点、模型发布时间的区别，掌握验证AI真实知识边界的方法，以及RAG技术如何突破时间限制。
阅读全文 →
·11 分钟
突尼斯方言NLP资源盘点：136个数据集的可用性真相
系统盘点突尼斯阿拉伯语（Derja）136个NLP资源的真实可获取性，揭示ASR词错误率最高、标签错误频发、标注数据极度稀缺三大困境，为低资源语言研究者提供可靠的资源导航。
阅读全文 →
·14 分钟
SEO语料污染：以色列如何通过训练数据操控AI认知
以色列投入数百万美元通过SEO垃圾内容污染AI训练语料库，试图影响LLM对加沙问题的表述。本文深度解析从搜索引擎优化到大语言模型语料污染的信息战演进，揭示训练数据操控的隐蔽性、放大效应及应对策略。
阅读全文 →
·7 分钟
嵌入向量时代：数据科学从特征工程到表征选择的范式转移
探讨基础模型嵌入向量如何重塑数据科学工作流。从特征工程到表征选择，预训练模型+轻量下游头的模式正成为跨领域共同实践，了解这场范式转移对从业者的深远影响。
阅读全文 →
·7 分钟
SAM3+RTMPose零微调解析1950年代工厂影像：基础模型泛化能力实测
开发者将SAM3分割模型与RTMPose姿态估计直接应用于1950年代黑白工厂影像，无需任何微调即可准确识别工人姿态与物体边界。本文深度解析这一实验背后的技术逻辑、泛化能力原理及对历史影像分析的实际意义。
阅读全文 →
·10 分钟
ChatGPT惊艳时刻：Reddit用户分享AI融入日常生活的真实体验
Reddit用户热议ChatGPT最令人惊讶的使用场景：从模糊记忆检索、识别歌曲旋律到根据剩菜规划菜谱，这些真实案例揭示了AI工具如何悄然渗透日常生活，成为普通人的智能生活助手。
阅读全文 →
·12 分钟
Qwen3系列深度解析：开源大模型的多模态野心与未来展望
深度解析阿里巴巴通义千问Qwen3系列最新动态，探讨其在多模态视觉理解、中文能力、开源生态等方面的核心优势，以及对开发者和行业的深远影响。
阅读全文 →
