#TensorRT
共 253 篇相关文章
·8 分钟
月之暗面开源FlashKDA：KDA注意力高性能CUDA内核详解
月之暗面开源FlashKDA项目，为Kimi Delta Attention提供高性能CUDA内核实现。本文详解FlashKDA的技术原理、性能优势及其在长上下文场景下的训练加速与推理提速价值。
阅读全文 →
·7 分钟
ncnn Vulkan跨平台边缘推理实战：解决GPU碎片化部署难题
面对边缘设备GPU碎片化难题，PostSlate团队选择ncnn的Vulkan后端实现跨平台ML推理。实测在RTX 4070上获得10倍加速，模型体积减半，且无需用户额外安装运行时，完美解决NVIDIA、AMD、Intel及Apple Silicon的统一部署问题。
阅读全文 →
·11 分钟
Cursor Start印度套餐月费₹649：AI编程工具区域定价策略解析
Cursor推出面向印度市场的Start套餐，月费仅₹649（约55元人民币），包含Grok 4.5和Composer Agent能力。深度解析这一购买力平价定价策略背后的市场逻辑与行业影响。
阅读全文 →
·7 分钟
AMD CDNA5架构深度解析：技术演进与AI算力竞争格局
深度解析AMD CDNA5架构的技术方向，包括Chiplet封装升级、HBM内存演进、低精度计算优化等核心看点，分析AMD如何通过下一代Instinct加速器挑战NVIDIA在AI芯片市场的主导地位。
阅读全文 →
·7 分钟
黄仁勋推特首推力挺AI开源，背后藏着英伟达的生态焦虑
黄仁勋开通推特首条帖文力挺AI开源，背后是英伟达对CUDA生态被替代的深层焦虑。本文从隐私、稳定性、性价比三个维度分析开源模型的不可替代优势，揭示英伟达在AI生态之争中的真实处境。
阅读全文 →
·6 分钟
黄仁勋首条X推文力挺开放AI：算力霸主为何站队开源
英伟达CEO黄仁勋在X平台发布首条推文，公开支持AI模型开放访问。本文解析黄仁勋力挺开源AI背后的商业逻辑、政策博弈，以及开源与闭源之争对AI产业格局的深远影响。
阅读全文 →
·5 分钟
黄仁勋力挺开源AI：蒸馏不是抄袭，DeepSeek和Kimi非常优秀
英伟达CEO黄仁勋公开为AI开源模型辩护，称知识蒸馏是合法学习方式而非抄袭，高度评价DeepSeek和Kimi等中国模型。联合微软、Meta等20多家企业发公开信支持开源AI，OpenAI和谷歌缺席。深度解析黄仁勋力挺开源背后的技术信念与商业逻辑。
阅读全文 →
·6 分钟
RX 9060 XT vs RTX 5060 Ti：本地AI显卡怎么选
RX 9060 XT与RTX 5060 Ti同为16GB显存，本地AI推理该选谁？从CUDA生态、ROCm兼容性、LLM推理性能到实际使用体验，全面对比两款显卡在本地AI场景中的优劣与适用人群。
阅读全文 →
·9 分钟
ARM64汇编从零实现YOLO26推理引擎：底层优化全解析
深入解析用ARM64汇编和C语言从零实现YOLO26n目标检测推理引擎的全过程，涵盖NEON SIMD优化、Winograd卷积、GEMM微内核、缓存分块等边缘设备AI推理核心优化技术。
阅读全文 →
·7 分钟
Opus 5实测体验：能力强但速度慢，推理速度成AI模型新战场
AI从业者实测Opus 5：模型能力强大但推理速度过慢，点名Cerebras硬件加速方案。深度分析大模型竞争从智能比拼转向推理速度军备竞赛的行业趋势。
阅读全文 →
·16 分钟
DIY陪伴机器人：用Jetson Orin打造你的AI桌面伙伴
一位创客用NVIDIA Jetson Orin和4S LiPo电池DIY陪伴机器人，从通电成功到AI交互的完整开发历程。了解Jetson Orin边缘计算在机器人项目中的技术选型、供电设计与陪伴机器人的发展趋势。
阅读全文 →
智能模型路由：AI降本增效的核心技术与落地指南
·6 分钟
智能模型路由：AI降本增效的核心技术与落地指南
智能模型路由（Intelligent Model Routing）正成为AI应用的关键基础设施。本文深度解析其工作原理、主流方案分类、技术挑战与落地考量，帮助开发者在成本、延迟与质量之间找到最优平衡。
阅读全文 →
·15 分钟
AI应用工程师面试指南：模型量化与推理部署核心考点
系统梳理AI应用工程师面试必考技术点：PTQ/QAT量化、算子融合、推理管线、延迟吞吐分析，以及检测/分割/BEV模型的边缘部署实战要点，帮你建立端侧AI完整知识框架。
阅读全文 →
·19 分钟
YOLOv8环境搭建完整指南：从Miniconda到Ultralytics安装
YOLOv8（Ultralytics）环境搭建全流程详解：Miniconda安装配置、PyTorch与CUDA版本匹配、源码安装vs pip安装对比，以及Windows终端使用技巧，帮你避开新手最常踩的坑。
阅读全文 →
·12 分钟
英伟达领投1亿美元！巴黎AI语音初创Gradium杀入硅谷
巴黎AI语音初创公司Gradium完成1亿美元种子轮融资，获英伟达战略加持。本文深度解析英伟达生态投资逻辑、欧洲AI公司全球化野心，以及AI语音赛道最新竞争格局。
阅读全文 →
·14 分钟
Qwen 3 Max深度实测：2.4万亿参数如何挑战Claude旗舰？
阿里通义千问Qwen 3 Max深度评测：2.4万亿参数、即将开放权重，八项测试综合得分81.25%高居榜单第二，超越Claude Opus、Kimi K3和GPT-4系列，国产大模型迎来重要突破。
阅读全文 →
·14 分钟
Ego Vision：基于YOLO11的驾驶动作预测系统详解
Ego Vision是一个开源自动驾驶感知项目，整合YOLO11目标检测、ByteTrack多目标跟踪与Depth Anything V2深度估计，实现GO/减速/停车/紧急制动四种驾驶动作预测。本文深度解析其技术架构、决策逻辑与工程价值。
阅读全文 →
·9 分钟
大模型本质是什么？用函数视角一文讲透核心原理
本文用初中函数概念拆解大模型本质：大模型=复杂函数，训练=求解参数，推理=代入求值并预测下一个词的概率。无需高深数学，彻底搞懂大模型工作原理、训练与推理的区别，助你快速入门大模型微调。
阅读全文 →
