#残差连接
共 81 篇相关文章
·15 分钟
ResNet残差连接为何有效？深层网络退化问题实验复现
通过CIFAR-10实验复现深层网络退化问题：56层普通网络训练准确率仅84%，远低于20层的95%。深入解析ResNet跳跃连接如何解决优化困难，以及残差结构在现代深度学习中的核心地位。
阅读全文 →
·7 分钟
深度网络退化问题实验复现：残差连接为何能拯救深层网络
通过CIFAR-10实验复现深度网络退化问题：56层plain网络训练准确率仅84%，而20层网络达95.1%。ResNet残差连接仅增加0.3%参数量，却将准确率提升至99%，揭示问题本质是优化困难而非过拟合。
阅读全文 →
·3 分钟
Hyper-Connections：残差连接十年来首次重大改进
深入解析字节跳动提出的Hyper-Connections技术，将残差连接从单条扩展为多条可学习连接通路，在相同算力下显著提升模型训练效果。本文详解其核心原理、实验结果及当前局限性。
阅读全文 →
观点碰撞·9 分钟
Scaling Law再思考：参数不是唯一答案
深度解析Scaling Law从Kaplan到Chinchilla再到MoE时代的演进历程，探讨为什么盲目堆参数是误区，以及GLM-5.3如何通过后训练证明扩展存在多个旋钮。
阅读全文 →
·19 分钟
KerasFormers：纯Keras 3跨框架预训练Transformer模型库详解
KerasFormers是基于Keras 3多后端架构的预训练Transformer模型库，支持JAX、PyTorch和TensorFlow三大框架无缝切换。本文详解其技术原理、开发者价值及与Hugging Face的差异化定位。
阅读全文 →
·9 分钟
机器学习研究入门：必读论文清单与研究实习申请路径
为ML初学者整理从零到研究实习的完整路径，包括必读经典论文清单（AlexNet、ResNet、Transformer等）、论文阅读方法、复现技巧及研究实习申请的实用建议。
阅读全文 →
·10 分钟
零成本学完机器学习数学：可汗学院完整路线图
基于可汗学院免费视频的机器学习数学学习路线图，涵盖线性代数、微积分、概率统计九大阶段，明确标注必学、选修和可跳过内容，帮助自学者高效打好ML数学基础。
阅读全文 →
·15 分钟
梯度下降训练的普适性：神经网络架构选择真的重要吗
探讨梯度下降训练的普适逼近能力，分析神经网络架构选择与可学习性的关系。从普适逼近定理到神经正切核理论，解读为什么梯度下降能在不同架构下稳定收敛，以及这对深度学习架构设计的启示。
阅读全文 →
·15 分钟
从AI到大模型：理清人工智能概念脉络与技术演进路径
一文梳理人工智能、机器学习、深度学习、大模型、生成式AI之间的关系与发展脉络。从深蓝到ChatGPT，理解Transformer架构如何催生大语言模型，以及普通人如何切入AI应用开发。
阅读全文 →
·15 分钟
Unsloth Dynamic 3.0 量化方案详解：按层动态分配精度，本地跑大模型更聪明
深入解析 Unsloth Dynamic 3.0 GGUFs 量化方案的核心技术原理，了解它如何通过按层动态分配量化精度，在模型体积与输出质量之间找到更优平衡，助力消费级硬件高效运行大语言模型。
阅读全文 →
·8 分钟
C++从零手写CNN：项目该继续打磨还是转向新方向？
一位大一学生用C++17从零实现CNN达到94%准确率后，面临继续深挖还是转向新项目的抉择。本文提供基于边际学习收益的判断框架，帮助ML初学者做出最优学习路径决策。
阅读全文 →
·15 分钟
系统学习机器学习：从数学推导到代码实现的完整路径
探讨如何系统学习机器学习，涵盖数学基础、算法推导、理论到代码实现的完整学习路径，推荐Andrew Ng、CS229等优质课程资源，帮助你避免沦为调库工程师，建立对ML算法的深刻理解。
阅读全文 →
·10 分钟
Qwen3 27B深度评测：推理能力强大却过度思考的解决方案
深度评测Qwen3 27B开源模型的推理能力与过度思考问题。分析27B参数规模的性能优势、过度思考的原因与代价，并提供关闭思考模式、分场景配置等实用优化建议。
阅读全文 →
·17 分钟
3D可视化揭秘：LeNet-5如何识别手写数字
通过VRML+Python技术栈构建LeNet-5卷积神经网络的3D可视化演示，直观展示MNIST手写数字识别的完整推理过程，从输入层到输出层逐步揭开CNN黑箱。
阅读全文 →
·19 分钟
Kimi K3架构深度解析：KDA、Stable Latent MoE与注意力残差三大核心技术
深度解析Kimi K3大模型的三大核心架构技术：KDA记忆管理机制、Stable Latent MoE稀疏专家混合（896专家仅激活16个）、以及Attention Residuals注意力残差。从数学原理到工程实现，全面拆解这款逼近SOTA的开源权重模型。
阅读全文 →
·11 分钟
24GB显存跑本地LLM？实际可用显存没那么多
详解24GB显卡跑本地大语言模型时显存的真实可用量。从模型权重、KV缓存到运行时余量，拆解显存三大消耗桶，提供结构化规划方法和实操建议，帮你避免OOM踩坑。
阅读全文 →
·15 分钟
Jetson Xavier NX帧率骤降排查：YOLO推理vs后处理瓶颈定位与优化
Jetson Xavier NX运行YOLOv11+TensorRT时帧率随目标数量从27FPS骤降至8FPS，深入分析后处理瓶颈成因，提供向量化计算、ByteTrack升级、流水线架构三大优化方案。
阅读全文 →
·17 分钟
深度学习入门：免费学习资源与路线全指南
为有机器学习基础的学习者整理深度学习免费学习资源，涵盖吴恩达课程、CS231n、fast.ai、PyTorch教程等，附完整学习路线规划，从理论到Kaggle实战一站式指南。
阅读全文 →
