[控场AI]
· 3 分钟阅读· 1,860 字

技能即程序:LLM应用开发的新范式

技能即程序:LLM应用开发的新范式

技能是LLM的程序:用技能化与可实验编排让LLM应用走向工程化。

文章借“技能就是LLM的程序”这一类比,提出将大模型能力拆解为有明确边界、可复用、可组合的技能模块,而非单一提示词。多技能协作依赖“编排”,消息板作为公共协作空间承载状态交换与任务协调,使编排逻辑可观察、可调试。编排方式本身可通过实验(如A/B对比串行、并行、投票等策略)择优,技能化架构降低了更换编排的成本。社区可共同贡献技能与编排方案,形成创意实验枢纽。对开发者的启示是:技能需清晰接口契约,编排层需可观测,实验基础设施要前置。

一个被低估的类比

在最近一期YouTube对话中,一位嘉宾抛出了一个看似简单却极具穿透力的比喻:技能就是LLM的程序。换句话说,技能之于大模型,就像代码之于计算机——它是让模型能力得以结构化、可复用、可组合的关键抽象层。

但我们通过技能来定义这些应用,这是一个非常有趣的概念

这个类比之所以有力,是因为它把讨论从“模型能做什么”拉回到了“我们如何组织模型去做事”。过去我们习惯把LLM当作一个万能函数来调用,输入提示词、等待输出。但一旦引入“技能”这个概念,应用就不再是单一提示词的拼凑,而是一组有明确边界、可以独立迭代的技能模块。这种视角的转变,直接决定了后续工程实践的方向。

技能编排:从单打独斗到系统协作

当应用被拆解为多个技能后,紧接着的问题就是:这些技能之间如何协作?对话中提到的答案是“编排”。嘉宾设想了一种专门设计的消息板,用来高效支持多个智能体之间的编排与通信。

我们可以有一个按特定方式搭建的消息板

消息板在这里不只是简单的消息队列,而是承载协作协议的公共空间。不同技能通过它交换状态、传递任务、协调执行顺序。这种设计让编排逻辑从硬编码中抽离出来,变成可观察、可调试的系统行为。对于复杂应用来说,这比把所有逻辑塞进一个巨型提示词要可靠得多。

消息板(Message Board) 在智能体系统中指的是一种共享的、异步的通信媒介,多个智能体(或技能模块)通过向板上的不同“频道”或“主题”发布和订阅消息来协作。它借鉴了黑板系统(Blackboard System)的经典思想:各模块不直接互相调用,而是围绕一个共享数据结构读写状态,由控制机制决定何时触发哪个模块。与点对点的直接消息传递相比,消息板解耦了发送方与接收方,天然支持动态加入、任务广播和结果汇聚,使编排逻辑更易观察与调试。

用实验说话:编排方式的择优机制

更进一步的洞见在于,编排方式本身不是拍脑袋决定的,而是可以实验的。嘉宾提出,可以针对不同类型的编排方案分别做实验,然后看哪一种表现最佳。

我们可以对不同类型的编排做不同的实验

这个思路把软件工程里的A/B测试和性能对比思路引入了智能体系统。编排策略——比如串行、并行、竞争、投票、路由——每种都有适用场景和代价。与其争论哪种更好,不如让同一批技能在不同编排下跑起来,用数据说话。这种“可实验性”是技能化架构带来的额外红利:因为技能是独立的、可复用的,更换编排方式的成本远低于重构整个应用。

A/B 测试与编排策略对比:在智能体系统中,编排策略(如串行、并行、竞争、投票、路由)的性能差异往往依赖具体任务分布,难以先验判断。A/B 测试通过将流量或任务实例随机分配给不同策略,并对比成功率、延迟、成本等指标,实现数据驱动的选择。与传统的单元测试不同,这里的“实验”需要在真实或模拟的多技能协作环境中运行完整任务流,因此要求技能具备可复现的接口和可观测的执行轨迹,这也正是技能化架构能够降低实验成本的原因。

社区驱动的实验场

这个愿景最有生命力的部分,在于它不局限于单一团队。对话中明确提到,这些实验不只来自内部,也来自更广泛的社区,最终形成一个创意实验的枢纽。

所以我们可以让所有这些实验以不同方式运行这些不同的技能

当一个平台上沉淀了大量技能和编排方案后,它就不再是一个产品,而是一个生态。开发者可以复用他人验证过的技能,也可以把自己摸索出的编排模式贡献出来。实验的成本被摊薄,创新的速度被放大。嘉宾对此的评价很直接——“这是一个非常天才的想法”。

对开发者的启示

把技能当作LLM的程序,意味着我们需要重新审视几件事。第一,技能应该有清晰的接口契约,输入输出可预期,才能被编排和复用。第二,编排层需要独立的可观测能力,否则多技能协作的失败很难定位。第三,实验基础设施要前置,别等系统复杂了才想起做对比测试。

这个类比并不完美——LLM的“程序”带有概率性和不确定性,不像传统代码那样确定。但恰恰是这种不完美,让技能设计、编排策略和实验方法变得更有研究价值。当社区把技能和编排当作可共享的资产来积累时,LLM应用的开发方式会从手工作坊走向真正的工程化。

#LLM技能#技能编排#智能体协作#LLM应用开发#消息板编排#AI工程化#社区实验
分享:

相关推荐