#ONNX
共 98 篇相关文章
·15 分钟
14倍提速：Manticore如何重构ONNX嵌入推理路径
Manticore Search团队通过重构ONNX推理路径，将文本嵌入计算速度提升14倍。本文深度解析批处理、会话复用、零拷贝内存优化与线程调优四大核心手段，为向量检索系统建设提供实践参考。
阅读全文 →
教程攻略·8 分钟
ONNX模型部署实战：从PyTorch导出到跨框架推理完整指南
详解ONNX神经网络交换格式的核心原理与实战应用。涵盖PyTorch和TensorFlow模型导出ONNX、ONNX Runtime推理、MNIST分类器部署、HuggingFace模型下载等完整流程，附可运行代码示例。
阅读全文 →
·10 分钟
应届生如何选择技术专精方向？从ML工程实践谈起
应届生如何在AI时代选择技术专精方向？本文从一位ML工程师的真实困惑出发，分析模型调用者与构建者的差距，探讨Kubernetes经验迁移、C++/CUDA学习路径，以及AI辅助编程时代深度专精的价值。
阅读全文 →
·18 分钟
ROS成立Physical AI特别兴趣小组，开源机器人生态拥抱具身智能
开源机器人联盟OSRA正式成立Physical AI SIG，推动ROS生态系统整合物理AI能力。本文解析Physical AI特别兴趣小组的目标、路线图及其对机器人开发者的深远影响。
阅读全文 →
·13 分钟
CMU AI工程证书值1.7万美元吗？深度剖析
深度分析卡内基梅隆大学AI工程基础研究生证书的真实价值，从课程含金量、职业转型路径、投资回报率三个维度，帮助软件工程师理性评估这笔17000美元的投入是否划算，并提供更具性价比的替代方案。
阅读全文 →
·13 分钟
免费机器学习路线图：基于微软官方内容的系统化学习路径
一份基于微软官方Microsoft Learn内容整理的免费机器学习路线图，覆盖从ML核心概念、Python实战到Azure ML部署和MLOps的完整学习路径，适合零基础入门到项目部署的系统化学习。
阅读全文 →
·14 分钟
脉冲神经网络能在边缘设备上真正提效吗
深入分析脉冲神经网络(SNN)在ESP32等边缘设备上的实际能效表现，探讨神经形态芯片落地困境、通用MCU架构错配问题，以及当前边缘AI开发者的务实选择。
阅读全文 →
·16 分钟
代码可视化工具优化指南：降低理解门槛的关键设计思路
探讨代码可视化工具的优化策略，分析良好的可视化设计如何降低认知负担、缩短学习曲线，以及开发者工具从功能优先转向体验优先的行业趋势。
阅读全文 →
·8 分钟
AI算法工程师自学路线：从零基础到拿到Offer的完整规划
详解AI算法工程师自学路线图，涵盖基础阶段、核心算法、CV与NLP方向选择及转行就业策略。帮助零基础和跨专业学习者建立系统学习规划，掌握从需求分析到模型部署的全链路能力。
阅读全文 →
·12 分钟
YOLO26n-Depth边缘部署实测：RK3576仅3-4 FPS的优化挑战
开发者将YOLO26n-Depth模型部署到RK3576平台实测仅3-4 FPS，本文深入分析性能瓶颈原因，对比Jetson、RK3588等平台表现，并提供INT8量化、C++部署、算子优化等实用加速方案。
阅读全文 →
·14 分钟
组队打Kaggle：如何寻找靠谱的竞赛队友
想在Kaggle竞赛中取得好成绩？本文详解组队打Kaggle的优势、寻找靠谱队友的渠道与方法、判断队友是否合适的标准，以及团队高效协作的关键要点，助你组建冲击奖牌的强力团队。
阅读全文 →
·15 分钟
SubtitleYC：开源硬字幕提取工具，集成OCR识别与编辑
SubtitleYC是一款开源硬字幕提取工具，整合yt-dlp视频下载、PaddleOCR字幕识别、帧级预览与SRT编辑导出功能，支持GPU加速，为视频翻译者和字幕组提供一站式工作流。
阅读全文 →
·14 分钟
Supercut：本地AI视频编辑器，零上传零注册保护隐私
Supercut是一款主打隐私保护的本地化AI视频编辑器，所有处理在设备端完成，支持自然语言剪辑指令、屏幕录制自动缩放、自动字幕等40款工具，免费起步无需账户，适合注重数据安全的创作者。
阅读全文 →
·13 分钟
Modly：本地GPU运行的开源图像转3D建模工具
Modly是一款开源桌面应用，支持本地GPU运行AI模型，将图像自动生成3D模型。无需云端API，数据隐私有保障，适合游戏开发者、3D打印爱好者和产品设计师使用。
阅读全文 →
·8 分钟
从OpenCV到工业级视觉：CV进阶学习路径与实战指南
从掌握OpenCV和YOLO基础到构建工业级计算机视觉系统的完整进阶路径，涵盖深度学习原理、自定义模型训练、实时推理优化、边缘部署及空间感知等核心技术，附免费学习资源推荐。
阅读全文 →
·15 分钟
Needle：14MB基础模型如何撬动边缘AI部署
Needle是cactus-compute团队开源的14MB超轻量基础模型，专为手机、可穿戴设备、智能家居和机器人等边缘设备设计。本文深入分析Needle的技术定位、端侧推理优势及其在边缘AI趋势中的意义。
阅读全文 →
·17 分钟
ml-pipes：将软件工程最佳实践内建到ML推理管道
ml-pipes是一个开源框架，将运行前校验、管道检视、链路追踪和基准测试等软件工程实践内建到ML推理管道中，填补MLOps工程化缺口，提升生产环境ML系统的可观测性与可维护性。
阅读全文 →
·15 分钟
Jetson Xavier NX帧率骤降排查：YOLO推理vs后处理瓶颈定位与优化
Jetson Xavier NX运行YOLOv11+TensorRT时帧率随目标数量从27FPS骤降至8FPS，深入分析后处理瓶颈成因，提供向量化计算、ByteTrack升级、流水线架构三大优化方案。
阅读全文 →
