#边缘AI
共 55 篇相关文章
·14 分钟
RosaicLabs与Atom RTL揭示x86生态隐秘变局
深度解析RosaicLabs、Intel Atom核心RTL授权与32-Tile AMX扩展背后的技术逻辑，探讨x86架构在AI时代面临的开放化、定制化转型趋势及其对芯片行业竞争格局的深远影响。
阅读全文 →
·15 分钟
持久化状态机：INT4内存单元如何重构LLM注意力机制
深入解析持久化状态机与INT4量化内存单元结合重构LLM注意力机制的技术方案，探讨如何突破KV Cache内存瓶颈，实现固定内存下的长上下文推理，覆盖边缘部署、高并发推理等应用场景。
阅读全文 →
·7 分钟
RF-DETR部署Orin Nano Super实测：推理提速1.26倍
实测RF-DETR目标检测模型在NVIDIA Jetson Orin Nano Super上的部署表现，相比前代硬件实现1.26倍推理加速。详解TensorRT优化技巧、功耗模式配置及INT8量化策略等边缘端部署要点。
阅读全文 →
·12 分钟
agentOS：用WebAssembly替代沙箱，成本降低254倍
agentOS将Linux操作系统库化，基于WebAssembly技术为AI Agent提供轻量级安全运行环境，比传统沙箱方案成本降低254倍。支持Claude Code、Codex等主流Agent框架，开源可自部署。
阅读全文 →
·7 分钟
热力学编译器TEC：用可逆计算破解AI算力膨胀难题
深入解析热力学弹性编译器（TEC）如何利用兰道尔原理与可逆计算，通过减少99.5%比特擦除来降低AI计算能耗，探讨其在边缘AI与分布式部署中的应用前景。
阅读全文 →
·6 分钟
树莓派部署iMessage AI助手：打造家庭常驻智能体
iMessage Hermes是一个开源项目，将AI智能体部署在树莓派上，通过真实电话号码实现iMessage和短信交互。本文详解其技术架构、安装方式及家庭AI平台的扩展潜力。
阅读全文 →
·7 分钟
Drifty：AI自动追踪Mac专注力，告别手动计时
Drifty是一款AI驱动的Mac时间追踪工具，无需手动计时即可自动识别专注与分心状态。支持上下文感知、温和提醒和本地隐私优先，帮助知识工作者看清注意力流向。
阅读全文 →
·7 分钟
ncnn Vulkan跨平台边缘推理实战：解决GPU碎片化部署难题
面对边缘设备GPU碎片化难题，PostSlate团队选择ncnn的Vulkan后端实现跨平台ML推理。实测在RTX 4070上获得10倍加速，模型体积减半，且无需用户额外安装运行时，完美解决NVIDIA、AMD、Intel及Apple Silicon的统一部署问题。
阅读全文 →
·7 分钟
在DRAM内部运行AI：突破DDR4时序规则的存内计算实验
深入解析通过故意违反DDR4内存时序规则，在DRAM内部直接运行PrismML Bonsai轻量级AI模型的存内计算实验，探讨其技术原理、能效优势与现实挑战。
阅读全文 →
·10 分钟
FPGA近似Softmax实战：泰勒展开与Padé逼近方法详解
详解如何在FPGA上高效实现Softmax函数，对比泰勒级数与Padé逼近两种近似方法的精度与资源开销，并介绍Python仿真验证流程及输入范围缩减等工程优化技巧。
阅读全文 →
·3 分钟
Radxa Cubie A7Z实测：NPU满载下330ms端到端目标检测延迟解析
深度解析Radxa Cubie A7Z单板计算机在NPU极限负载下实现330ms glass-to-glass目标检测延迟的实测表现，涵盖延迟构成分析、实用场景评估及端侧AI优化方向。
阅读全文 →
·16 分钟
DIY陪伴机器人：用Jetson Orin打造你的AI桌面伙伴
一位创客用NVIDIA Jetson Orin和4S LiPo电池DIY陪伴机器人，从通电成功到AI交互的完整开发历程。了解Jetson Orin边缘计算在机器人项目中的技术选型、供电设计与陪伴机器人的发展趋势。
阅读全文 →
·15 分钟
AI应用工程师面试指南：模型量化与推理部署核心考点
系统梳理AI应用工程师面试必考技术点：PTQ/QAT量化、算子融合、推理管线、延迟吞吐分析，以及检测/分割/BEV模型的边缘部署实战要点，帮你建立端侧AI完整知识框架。
阅读全文 →
·15 分钟
通义千问Qwen 3.8 Max实测：开源模型如何逼近顶级闭源水准
通义千问Qwen 3.8 Max拥有2.4万亿参数，即将开源。KingBench实测综合得分81.25%，位列排行榜第二，超越Claude Opus 4.8，仅次于Fable 5。本文详解8道测试题表现、真实使用体验与短板分析。
阅读全文 →
·13 分钟
270亿参数大模型压进iPhone？端侧AI全参数运行技术解析
AI创业公司Prismo宣称将270亿参数模型压缩至4GB，在iPhone 17 Pro上实现全参数本地运行，支持离线复杂对话、代码生成与自主编程代理。本文深度解析其压缩技术原理、与苹果MoE方案的差异，以及端侧AI的真实能力边界。
阅读全文 →
·9 分钟
GPT-5.6一小时证明50年数学猜想，AI独立攻克科学难题
OpenAI最新模型GPT-5.6 Sol Ultra仅用一小时、花费不足500美元，成功证明悬而未决50年的循环双覆盖猜想。本文还涵盖苹果起诉OpenAI、谷歌开源Gemma 4、智谱AI冲刺AGI等AI领域重大进展。
阅读全文 →
Relm：让本地大模型成为R语言原生对象的开源工具
·12 分钟
Relm：让本地大模型成为R语言原生对象的开源工具
Relm将本地大语言模型封装为R语言原生对象，支持本地推理、数据隐私保护与可解释性分析。本文深度解析其核心设计理念、差异化亮点及适用场景，为R语言数据科学家提供LLM集成新思路。
阅读全文 →
Nopia合成器即将上市：重新定义和声创作的AI音乐硬件
·5 分钟
Nopia合成器即将上市：重新定义和声创作的AI音乐硬件
爆火合成器Nopia终于接近量产上市，创作者Martin Grieco与Rocío Gal历经数年打磨，带来颠覆传统乐理门槛的智能和声交互设计。无论专业制作人还是音乐爱好者，都值得关注这款硬件合成器的正式发布。
阅读全文 →
