EdgeWise
一种边缘-云选择性委托的Agent推理架构，通过边缘端小型步骤选择器判断哪些推理步骤需要云端大模型处理，其余步骤在边缘端完成，从而降低成本和延迟。
时间轴 (近 90 天)
EdgeWise 是一个边缘优先的长时程 Agent 方案，通过步骤选择器判断当前推理步骤是否需要云端大模型，从而将云端调用压缩到总步数的 10-20%。
EdgeWise 的选择器是一个 12M 参数的 BERT 风格二分类模型，运行在 Jetson Orin 上推理耗时不到 5ms，在 Apple M 系列芯片上不到 3ms。
在 50 步导航任务中，只有 12% 的决策需要调用 GPT-4-turbo 级别的大模型，其余步骤可在边缘端低成本完成。
EdgeWise 在机器人操作、自主导航和文本到视频生成三个领域评估中，均将 10-20% 的步骤委托给云端，保持 95% 以上的原始性能，成本降幅约 85%。
EdgeWise 报告边缘端步骤 95 分位延迟为 190ms，云端调用峰值 180ms，94% 的步骤端到端延迟低于 200ms。
EdgeWise 提供 Apache 2.0 许可的 12M 参数预训练选择器，托管于 HuggingFace，以及边缘和云端的参考 Docker 镜像。
传统全云架构下，每次拣选动作消耗 1200 token，成本 $0.0096；EdgeWise 选择委托后，每回合消耗 300 token，成本 $0.0012。
EdgeWise 路线图显示：2026 年 Q4 公开 Beta，2027 年 Q1 发布 SDK v1.0，2027 年 Q2 推出更广泛的云编排服务。
EdgeWise 选择器使用 MRR（Mean Reciprocal Rank）等排序指标评估，MRR 接近 1 时能精准将关键步骤路由到云端。
EdgeWise 选择开源 ONNX Runtime 推理引擎，让合作伙伴在 Linux、RT-OS、iOS 和定制 ASIC 等平台上自行编译选择器。
还有 2 条时间轴事件
全部知识事实 (12)
100 台机器人的车队使用 EdgeWise 后每月节省约 $45k 云支出，试点机器人两周内完成 1 万次拣选，错误率与全云基线持平。
50%待验证EdgeWise 的选择器是一个 12M 参数的 BERT 风格二分类模型，运行在 Jetson Orin 上推理耗时不到 5ms，在 Apple M 系列芯片上不到 3ms。
50%待验证在 50 步导航任务中，只有 12% 的决策需要调用 GPT-4-turbo 级别的大模型，其余步骤可在边缘端低成本完成。
50%待验证EdgeWise 在机器人操作、自主导航和文本到视频生成三个领域评估中，均将 10-20% 的步骤委托给云端，保持 95% 以上的原始性能，成本降幅约 85%。
50%待验证EdgeWise 报告边缘端步骤 95 分位延迟为 190ms，云端调用峰值 180ms，94% 的步骤端到端延迟低于 200ms。
50%待验证EdgeWise 的风险包括选择器过拟合基准领域、操作系统与硬件碎片化、不可预测的云成本尖峰、全边缘 LLM 的出现以及安全与数据隐私合规。
50%待验证EdgeWise 是一个边缘优先的长时程 Agent 方案，通过步骤选择器判断当前推理步骤是否需要云端大模型，从而将云端调用压缩到总步数的 10-20%。
50%待验证传统全云架构下，每次拣选动作消耗 1200 token，成本 $0.0096；EdgeWise 选择委托后，每回合消耗 300 token，成本 $0.0012。
50%待验证EdgeWise 选择器使用 MRR（Mean Reciprocal Rank）等排序指标评估，MRR 接近 1 时能精准将关键步骤路由到云端。
50%待验证EdgeWise 选择开源 ONNX Runtime 推理引擎，让合作伙伴在 Linux、RT-OS、iOS 和定制 ASIC 等平台上自行编译选择器。
50%待验证EdgeWise 提供 Apache 2.0 许可的 12M 参数预训练选择器，托管于 HuggingFace，以及边缘和云端的参考 Docker 镜像。
50%待验证EdgeWise 路线图显示：2026 年 Q4 公开 Beta，2027 年 Q1 发布 SDK v1.0，2027 年 Q2 推出更广泛的云编排服务。
50%