#深度学习
共 73 篇相关文章

CNN模型对比:Pequi树枝枯病检测研究
研究比较AlexNet、Inception、LeNet、VGG16和MobileNet五种CNN架构在Pequi树枝枯病检测中的表现,利用计算机视觉技术分析叶片、枝条和花穗的病理模式,为农业AI病害诊断提供架构选型依据。

免费机器学习工作坊:从传统ML到图神经网络
数学Discord服务器正在举办完全免费的机器学习工作坊,课程覆盖传统机器学习、深度学习(含Transformer)和图神经网络三大部分,每周讲座加实验课,讲师会review代码。本文整理课程大纲、前置要求和参与方式。

神经网络激活函数全解析:Sigmoid、Tanh、ReLU、GELU
为什么神经网络需要激活函数?本文用通俗语言解释 Sigmoid、Tanh、ReLU、GELU 和 Softmax 的原理与选择方法,附对比表和 Python 代码示例。

4GB显卡从零训练语言模型:失败比成功更有价值
一位开发者用4GB显存的GTX 1650从零训练了2200万参数的语言模型,经历CUDA崩溃、生成死循环与斐波那契失败。本文解析在极限硬件约束下训练LLM的完整工作流、评估方法与教训。

一步到位的神经网络校准:联合优化精度与可靠性
一篇研究提出通过双层Stackelberg博弈将神经网络校准嵌入端到端训练,仅增加一个超参数即可联合优化准确率与校准质量,无需单独校准集,性能超越SOTA校准方法。

设了随机种子却训出不同模型?PyTorch可复现性真相
设置了随机种子,训出来的模型却不一样?本文通过 ResNet18 实测揭示 PyTorch 可复现性的真相:浮点运算与 GPU 并行调度导致训练从第 1 步就分叉,并给出 use_deterministic_algorithms 的修复方法与仅 16% 的真实性能开销。

ECGWmark:面向心电信号的深度水印技术新框架
ECGWmark 是一套面向心电信号(ECG)的全卷积、无量化深度水印框架,通过帧级机制和可微分生理损失兼顾抗时序失同步鲁棒性与诊断保真度。在 MIT-BIH 数据库上提取准确率超 90%,但跨患者诊断评估显示类别级影响喜忧参半。

SADL:面向慢性卒中病灶分割的尺寸自适应决策层
SADL 是面向 ISLES 2026 挑战赛的尺寸自适应决策层,通过十一成员 nnU-Net 集成与自适应阈值后处理,解决慢性卒中病灶分割难题,在 91 例留出集上达到 Dice 0.7322、lesion-F1 0.7461,小病灶场景增益显著。

重尾权重谱为何能预测模型质量:一个统计学解释
本文解读一项研究:为何训练后权重矩阵的重尾谱分布能预测深度神经网络质量。研究通过边际似然与高温Marchenko-Pastur分布,给出了统计学解释,并推导出可预测过拟合的最优重尾程度。

从0到74%准确率:用图像识别字体的浏览器插件实战复盘
一位开发者从零打造图像字体识别浏览器插件的完整复盘:从自测93%实则全军覆没,到用ArcFace微调合成数据达到74% top-1准确率,分享踩过的坑与真实测试数据。

可训练激活函数能否提升语音识别系统?
可训练激活函数能否提升语音识别系统的性能?本文解析 PReLU、可训练 Swish 等方案的原理、对 ASR 任务的潜在收益,以及参数开销与过拟合等实际权衡。

SW-KAN:用q-正交多项式破解KAN的域不匹配难题
SW-KAN 提出用 Stieltjes-Wigert q-正交多项式构建 Kolmogorov-Arnold 网络,通过 exponential-of-tanh 映射和三项递推解决多项式 KAN 的域不匹配难题,在图像分类与函数逼近上实现更优的精度-效率权衡。

Adam优化器与自然梯度下降的几何距离有多远?
一篇arXiv新研究用尺度不变的几何度量,系统分析了Adam优化器与自然梯度下降(NGD)的距离。结果显示Adam在病态和非凸场景下偏差可达10^3量级,但最终收敛不受影响,其威力源于近似误差与动量平滑的平衡。

Seq2Seq模型只会预测填充符?常见问题与修复思路
seq2seq模型训练时只预测填充token是新手常见问题。本文分析其根源——损失函数未屏蔽padding、数据失衡,并给出loss masking、teacher forcing等训练与解码层面的修复建议。

拓扑域外泛化:让AI预测系统从未见过的动力学突变
NeurIPS论文提出拓扑域外泛化方法,通过特征分离与物理稀疏先验修复分层DSR模型缺陷,使AI能在不知控制参数的情况下预测系统分岔与动力学突变,适用于PLRNN和Neural ODE。

深度学习为何十年攻不下表格数据?Frank Hutter的解答
AutoML专家Frank Hutter解析深度学习为何十年难以攻克表格数据:脏数据、无法跨表迁移是核心障碍,而上下文学习通过模式级迁移终于带来突破。深度剖析TabNet失败原因与TabPFN范式。

如何融合两个神经网络?模型合并与灾难性遗忘详解
如何将两个专精的神经网络(识别猫与识别狗)融合为一个模型,同时避免灾难性遗忘?本文解析模型合并的技术难点,介绍知识蒸馏、神经元对齐、多头联合训练等可行方案。

RNN训练提速100倍:时间并行方法攻克混沌系统重建难题
NeurIPS 2026 Spotlight论文提出时间并行训练方法,结合DEER与广义教师强制(GTF),将混沌动力学系统上的RNN训练提速超100倍,并在动力学系统重建任务中超越Mamba等状态空间模型。

