#边缘计算
共 71 篇相关文章

EdgeWise:边缘选择云委托,机器人成本降87%延迟降至1秒
EdgeWise论文提出选择性云委托方案:边缘端微型选择器判断哪些步骤需要云端LLM,实现机器人等长程任务成本降低87%、延迟从4.8秒降至1秒,附带SDK和部署路线图。

Flutter 与 NVIDIA 边缘模型:运行时能力协商实战
面向 Jetson 等边缘 AI 部署,讲解 Flutter 如何通过运行时能力协商动态适配 NVIDIA 模型、加速器与推理后端差异,涵盖能力端点设计、版本契约、安全更新、能力矩阵测试与性能检查清单。

20亿参数能看图!千问3.5跑进RK3588本地部署实测
B站UP主实测千问3.5 2B版本在RK3588开发板上的本地部署全流程,含模型准备、运行环境配置、命令行与网页问答测试,以及文字和图片问答的详细耗时数据。

边缘AI驱离野生动物:Flox Intelligence落地铁路与机场
Flox Intelligence 用边缘AI设备在本地识别野生动物并动态发出驱离声音,已部署约150台于机场、铁路等场景,并计划融资扩展至数千台。

边缘AI实战:3B小模型为何能击败70B大模型
边缘AI部署实战指南:3B小模型在分类、提取、路由等窄任务上以低延迟、离线可用和零API成本击败70B大模型。涵盖硬件选型、教师-学生蒸馏管线、混合路由、安全监控与标注经济学。

端侧大模型推理:规格表不会告诉你的真实取舍
端侧大模型推理远不只是"没网络的云"。本文深入剖析内存硬限制、量化精度权衡、冷启动延迟与无自动扩容四大取舍,并附一份可直接落地的工程检查清单。

VerdantPulse:用Gemma 2与TabPFN打造零屏幕离线徒步助手
VerdantPulse 是一款开源离线 AI 徒步助手,用 Google Gemma 2 与 Prior Labs TabPFN 实现无网络的物候预测与感官引导,核心理念是让屏幕时间缩短到 60 秒内,帮助徒步者放下手机回归自然。

Oído:5美元单片机实现开放词汇语音识别
研究项目 Oído 在仅 5 美元、无神经加速器的 ESP32-S3 单片机上实现开放词汇英语语音识别,WER 低至 3.70%,准确度甚至超过笔记本上的 Whisper tiny。代码与模型已开源。

Cloudflare收购Deno:边缘计算与Workers平台的野心升级
Cloudflare宣布收购JavaScript运行时项目Deno,以改进其Workers边缘计算编程模型与平台。本文分析此次收购对开发者体验、边缘Serverless格局及Deno开源项目未来的影响。

用数据库思维设计Cloudflare Durable Objects:构建可信AI智能体记忆
深入解析如何用数据库思维设计Cloudflare Durable Objects,为AI智能体构建可信记忆层:涵盖隔离模型选择、SQL持久化陷阱、休眠成本优化、MCP人机协同与反模式避坑,附完整代码与预约智能体参考架构。

零冷启动的边缘AI:用WebAssembly部署全球分布式MCP与智能体
Akamai布道师Thorsten Hans演示如何用CNCF项目Spin与Akamai Functions构建零冷启动、全球分布式的AI智能体与MCP服务器,基于WebAssembly实现亚毫秒级冷启动和一行命令60秒全球部署。

Jetson AGX上优化SegFormer-B2:提升FPS与越野语义分割可靠性
基于Jetson AGX与ZED 2i的越野自主导航系统,如何优化SegFormer-B2提升FPS并减少危险的假可通行误判?本文解析RGB-Depth融合、INT8量化、知识蒸馏与训练策略等实用方案。

用Codex在NVIDIA Jetson上部署独立VLM视觉终端实战
基于 YouTube 技术演示,详解如何借助 AI 编码代理 Codex 在 NVIDIA Jetson 上部署本地视觉语言模型(VLM),并改造为开机自启、离线可用的独立 kiosk 终端,涵盖硬件评估、权限安全与环境适配全流程。

树莓派5实测8款本地大模型:仅3款真正可用
树莓派5实测8款本地大模型,从速度到实用任务全面评估。仅Gemma 2B、Gemma 4B、Granite三款真正可用,附完整测试标准与选型建议。

用 Codex 配置 NVIDIA Jetson:远程 AI 开发环境搭建全流程
本文详解如何借助 Codex 从 Mac 远程配置 NVIDIA Jetson 边缘 AI 开发环境,涵盖 SSH 免密登录、Wi-Fi 双通道、Codex CLI 安装、设备技能部署与 Docker GPU 容器验证的完整流程。

AI Agent实战:77分钟在Jetson上构建RealSense视觉应用
资深开发者实测AI编程代理在Jetson Orin NX上从零构建RealSense视觉应用全过程,涵盖视频流显示、点云查看器和DeepStream+YOLO目标检测三个应用,仅用77分钟,并剖析代理在边缘AI开发中的能力边界与人机协作分工。

Oído开源语音识别:5美元单片机跑赢Whisper-tiny
开源项目Oído在5美元的ESP32-S3微控制器上运行语音识别,采用13M参数的NVIDIA Conformer-CTC模型,LibriSpeech与噪声环境下的词错误率均优于笔记本上的Whisper-tiny,为边缘离线语音AI提供了低成本新方案。

神经符号路由:让边缘设备的小模型可靠推理
一篇 arXiv 论文提出神经符号路由器,通过 L* 算法学习 DFA 将查询分发给最优求解器,在树莓派上实现 98.3% 准确率,比主流 Agent 基线快 8.8 倍、能效高 2.8 倍,为边缘设备可靠推理提供新思路。

