Replit Agent的新思路：让模型自己决定，而非路由器

模型路由的根本局限

模型路由（Model Router）如今随处可见，但它存在一个结构性的硬伤：无论基于复杂的启发式规则，还是用一个小模型读取每一轮对话、再决定调用哪个大语言模型，路由器的能力上限永远低于它所调度的那个模型。换句话说，你用一个弱模型去指挥强模型，天花板早已被那个弱环节锁死。

Replit Agent 选择了另一条路——把决策权交还给模型本身。主智能体（core loop，即核心循环）自己决定子智能体的层级与投入程度，并随着任务推进动态调整自身的策略。这种设计哲学的核心，是相信前沿模型比外部调度逻辑更懂得如何分配资源。

模型路由（Model Router）的典型实现方式有两种：基于规则的静态路由（如按任务类型或关键词分流），以及基于小型分类模型的动态路由（如用一个轻量级模型判断当前请求应交给哪个大模型处理）。后者看似智能，实则陷入循环困境——用于分类的小模型本身能力有限，它对"这道题需要哪个模型"的判断，往往不如那个更强的目标模型自己更清楚。此外，路由决策通常发生在请求开始时，无法根据任务推进中暴露出的复杂度动态调整，导致资源分配缺乏弹性。这种"事先裁判"的架构范式，在任务复杂度不可预测时会系统性地失效。

让模型自己分配Token预算

在 Replit 的架构中，被赋予自由的 GPT-6 Astra 会把常规的实现工作交给成本更低的子智能体，然后自行判断在哪些环节花费 token 才真正值得。这是一种资源分配的自主权：模型不再被动接受外部路由的安排，而是像一个项目负责人那样，决定哪些活儿外包、哪些活儿亲自上手。

这种做法在基准测试上得到了验证。在 DeepSWE 和 Terminal-Bench 两项测试中，Replit Agent 相对于单独运行的 Astra 实现了帕累托最优（Pareto-efficient）——没有任何已发布的 Astra 基线能做到成本更低且分数更高。同时，它也击败了所谓的"副手架构"（sidekick architecture，即只配置一个长期存在的 worker 的相同设置），在两项测试中分别领先 11 分和 16 分。

这组数据传递的信号很明确：赋予模型自主调度子智能体的能力，比固定的层级架构或外部路由带来了实打实的效率收益。

为什么要做更少的脚手架

每一次模型发布，都会让 harness（支撑框架）中预设的假设失效。这是 AI 工程领域一个被反复验证却常被忽视的痛点——你为上一代模型精心搭建的脚手架，可能在新模型面前反而成了束缚。

模型越强，越不需要被安排

Replit 的观察是：随着模型在长周期任务（long-horizon tasks）上越来越强，它们在 harness 层需要的脚手架也越来越少。实践中，这些模型会自发地倾向于委派——主动使用子智能体来管理上下文和实现并行处理。文中提到，包括 Navier–Stokes（纳维-斯托克斯方程相关）在内的近期突破，部分正是通过协调由前沿模型驱动的"智能体集群"（swarms of agents）实现的。

这意味着，优秀的框架设计不应是"替模型做决定"，而应是"为模型留出空间"。

前沿能力是参差不齐的

不过，模型能力的边界并不整齐——文中用了"jagged"（锯齿状）这个词来形容。最强的编程模型，未必是最擅长设计 UI、制作幻灯片的那个，也未必最会写邮件。不同任务维度上的能力分布高度不均。

正因如此，Replit 的设计思路是让每个模型用它自己的方式工作，仅保留它仍然需要的护栏（guardrails），并把"以最低成本实现质量"作为核心目标。这既承认了模型的能力差异，又避免了过度工程化。

Harness（支撑框架/脚手架）在 AI Agent 工程中，泛指包裹在模型外部的一切工程化设施：提示词模板、工具调用逻辑、输出解析器、重试机制、上下文压缩策略等。这些设施的初衷是弥补模型的短板——早期模型容易偏题、格式不稳定、无法持续追踪长任务状态，因此需要大量外部"扶手"。然而，模型能力每隔几个月就会迭代一次，曾经必要的补偿机制会迅速过时，甚至反过来限制新模型的发挥。一个典型案例是：为旧模型设计的"强制分步输出"提示，在更擅长整体推理的新模型上反而会打断其思维链，导致性能下降。定期审视并精简脚手架，已成为前沿 Agent 工程的重要实践原则。

"Jagged frontier"（锯齿状前沿）这一概念最初由研究者 Ethan Mollick 等人在描述 LLM 能力分布时提出，用来表达大模型的能力边界并非一条平滑曲线，而是在不同任务维度上高低起伏、难以预测。某个模型可能在数学推理上远超人类平均水平，却在常识性空间判断上表现欠佳；某个编程模型可能在生成底层算法时极其强大，但在理解产品需求、生成自然语言说明文档时却明显逊色。这种不均匀性使得"用同一套流程处理所有任务"的框架设计天然存在盲区，也进一步支撑了"让模型自主选择工作方式"而非强制统一流程的架构思路。

这套设计哲学意味着什么

从路由器到自主委派，Replit Agent 代表的是 AI 应用架构的一次思路转向。过去的主流做法是用外部逻辑去"管理"模型，而现在的趋势是把更多控制权下放给模型本身，框架退居为提供护栏和安全边界的角色。

这背后的逻辑其实很朴素：当被调度的主体比调度者更聪明时，让聪明的一方做决定才是最优解。对于正在构建 AI Agent 产品的开发者而言，这意味着需要重新审视自己的脚手架——哪些是真正必要的约束，哪些只是对旧模型能力不足的补偿，而后者很可能会在下一次模型迭代中变成负担。

当然，这篇分享来自 Replit 官方视角，其基准测试结果和架构优势有待更广泛的独立验证。但它提出的核心问题值得每一个 Agent 开发者思考：你的框架，是在赋能模型，还是在限制它？