[控场AI]

#边缘计算

共 71 篇相关文章

EdgeWise:边缘选择云委托,机器人成本降87%延迟降至1秒
·9 分钟

EdgeWise:边缘选择云委托,机器人成本降87%延迟降至1秒

EdgeWise论文提出选择性云委托方案:边缘端微型选择器判断哪些步骤需要云端LLM,实现机器人等长程任务成本降低87%、延迟从4.8秒降至1秒,附带SDK和部署路线图。

阅读全文 →
Flutter 与 NVIDIA 边缘模型:运行时能力协商实战
·6 分钟

Flutter 与 NVIDIA 边缘模型:运行时能力协商实战

面向 Jetson 等边缘 AI 部署,讲解 Flutter 如何通过运行时能力协商动态适配 NVIDIA 模型、加速器与推理后端差异,涵盖能力端点设计、版本契约、安全更新、能力矩阵测试与性能检查清单。

阅读全文 →
20亿参数能看图!千问3.5跑进RK3588本地部署实测
·5 分钟

20亿参数能看图!千问3.5跑进RK3588本地部署实测

B站UP主实测千问3.5 2B版本在RK3588开发板上的本地部署全流程,含模型准备、运行环境配置、命令行与网页问答测试,以及文字和图片问答的详细耗时数据。

阅读全文 →
边缘AI驱离野生动物:Flox Intelligence落地铁路与机场
·4 分钟

边缘AI驱离野生动物:Flox Intelligence落地铁路与机场

Flox Intelligence 用边缘AI设备在本地识别野生动物并动态发出驱离声音,已部署约150台于机场、铁路等场景,并计划融资扩展至数千台。

阅读全文 →
边缘AI实战:3B小模型为何能击败70B大模型
·6 分钟

边缘AI实战:3B小模型为何能击败70B大模型

边缘AI部署实战指南:3B小模型在分类、提取、路由等窄任务上以低延迟、离线可用和零API成本击败70B大模型。涵盖硬件选型、教师-学生蒸馏管线、混合路由、安全监控与标注经济学。

阅读全文 →
端侧大模型推理:规格表不会告诉你的真实取舍
·5 分钟

端侧大模型推理:规格表不会告诉你的真实取舍

端侧大模型推理远不只是"没网络的云"。本文深入剖析内存硬限制、量化精度权衡、冷启动延迟与无自动扩容四大取舍,并附一份可直接落地的工程检查清单。

阅读全文 →
VerdantPulse:用Gemma 2与TabPFN打造零屏幕离线徒步助手
·8 分钟

VerdantPulse:用Gemma 2与TabPFN打造零屏幕离线徒步助手

VerdantPulse 是一款开源离线 AI 徒步助手,用 Google Gemma 2 与 Prior Labs TabPFN 实现无网络的物候预测与感官引导,核心理念是让屏幕时间缩短到 60 秒内,帮助徒步者放下手机回归自然。

阅读全文 →
Oído:5美元单片机实现开放词汇语音识别
·5 分钟

Oído:5美元单片机实现开放词汇语音识别

研究项目 Oído 在仅 5 美元、无神经加速器的 ESP32-S3 单片机上实现开放词汇英语语音识别,WER 低至 3.70%,准确度甚至超过笔记本上的 Whisper tiny。代码与模型已开源。

阅读全文 →
Cloudflare收购Deno:边缘计算与Workers平台的野心升级
·3 分钟

Cloudflare收购Deno:边缘计算与Workers平台的野心升级

Cloudflare宣布收购JavaScript运行时项目Deno,以改进其Workers边缘计算编程模型与平台。本文分析此次收购对开发者体验、边缘Serverless格局及Deno开源项目未来的影响。

阅读全文 →
用数据库思维设计Cloudflare Durable Objects:构建可信AI智能体记忆
·13 分钟

用数据库思维设计Cloudflare Durable Objects:构建可信AI智能体记忆

深入解析如何用数据库思维设计Cloudflare Durable Objects,为AI智能体构建可信记忆层:涵盖隔离模型选择、SQL持久化陷阱、休眠成本优化、MCP人机协同与反模式避坑,附完整代码与预约智能体参考架构。

阅读全文 →
零冷启动的边缘AI:用WebAssembly部署全球分布式MCP与智能体
·9 分钟

零冷启动的边缘AI:用WebAssembly部署全球分布式MCP与智能体

Akamai布道师Thorsten Hans演示如何用CNCF项目Spin与Akamai Functions构建零冷启动、全球分布式的AI智能体与MCP服务器,基于WebAssembly实现亚毫秒级冷启动和一行命令60秒全球部署。

阅读全文 →
Jetson AGX上优化SegFormer-B2:提升FPS与越野语义分割可靠性
·6 分钟

Jetson AGX上优化SegFormer-B2:提升FPS与越野语义分割可靠性

基于Jetson AGX与ZED 2i的越野自主导航系统,如何优化SegFormer-B2提升FPS并减少危险的假可通行误判?本文解析RGB-Depth融合、INT8量化、知识蒸馏与训练策略等实用方案。

阅读全文 →
用Codex在NVIDIA Jetson上部署独立VLM视觉终端实战
·5 分钟

用Codex在NVIDIA Jetson上部署独立VLM视觉终端实战

基于 YouTube 技术演示,详解如何借助 AI 编码代理 Codex 在 NVIDIA Jetson 上部署本地视觉语言模型(VLM),并改造为开机自启、离线可用的独立 kiosk 终端,涵盖硬件评估、权限安全与环境适配全流程。

阅读全文 →
树莓派5实测8款本地大模型:仅3款真正可用
·6 分钟

树莓派5实测8款本地大模型:仅3款真正可用

树莓派5实测8款本地大模型,从速度到实用任务全面评估。仅Gemma 2B、Gemma 4B、Granite三款真正可用,附完整测试标准与选型建议。

阅读全文 →
用 Codex 配置 NVIDIA Jetson:远程 AI 开发环境搭建全流程
·6 分钟

用 Codex 配置 NVIDIA Jetson:远程 AI 开发环境搭建全流程

本文详解如何借助 Codex 从 Mac 远程配置 NVIDIA Jetson 边缘 AI 开发环境,涵盖 SSH 免密登录、Wi-Fi 双通道、Codex CLI 安装、设备技能部署与 Docker GPU 容器验证的完整流程。

阅读全文 →
AI Agent实战:77分钟在Jetson上构建RealSense视觉应用
·7 分钟

AI Agent实战:77分钟在Jetson上构建RealSense视觉应用

资深开发者实测AI编程代理在Jetson Orin NX上从零构建RealSense视觉应用全过程,涵盖视频流显示、点云查看器和DeepStream+YOLO目标检测三个应用,仅用77分钟,并剖析代理在边缘AI开发中的能力边界与人机协作分工。

阅读全文 →
Oído开源语音识别:5美元单片机跑赢Whisper-tiny
·5 分钟

Oído开源语音识别:5美元单片机跑赢Whisper-tiny

开源项目Oído在5美元的ESP32-S3微控制器上运行语音识别,采用13M参数的NVIDIA Conformer-CTC模型,LibriSpeech与噪声环境下的词错误率均优于笔记本上的Whisper-tiny,为边缘离线语音AI提供了低成本新方案。

阅读全文 →
神经符号路由:让边缘设备的小模型可靠推理
·5 分钟

神经符号路由:让边缘设备的小模型可靠推理

一篇 arXiv 论文提出神经符号路由器,通过 L* 算法学习 DFA 将查询分发给最优求解器,在树莓派上实现 98.3% 准确率,比主流 Agent 基线快 8.8 倍、能效高 2.8 倍,为边缘设备可靠推理提供新思路。

阅读全文 →