Cloudflare开源Clef：把AI决策变成概率输出的27B多模态模型

一个不生成文本的决策模型

Cloudflare开源的Clef走了一条与主流大语言模型截然不同的路线。它是一个27B参数的多模态模型，但它的目标不是生成流畅的文本，而是做出结构化的决策。

传统LLM在处理决策类任务时，往往需要先生成一段自由文本，再通过解析提取结构化结果——这中间充满了不确定性和格式错误的风险。Clef把这套流程彻底砍掉：它接收一个"状态"（state）和一套"带类型的问题模式"（schema of typed questions），然后在一次前向传播中，为每个问题的每个允许选项返回一个概率值。

没有自由文本生成，也没有输出解析。这意味着你不需要再写正则表达式去抠取模型的回答，也不用担心模型"跑题"输出一段无法使用的散文。

技术设计：多模态输入，概率化输出

输入可以是任意形态

Clef的"状态"输入非常灵活，可以是纯文本、JSON、图像，甚至是视频。这种多模态能力让它能够处理跨越不同数据类型的决策场景——例如结合一段监控视频和一份JSON配置来判断系统应采取的行动。

输出是结构化概率

关键在于输出端。对于schema中定义的每一个问题及其每一个合法选项，Clef都会给出对应的概率。这种设计把"决策"这件事从生成式任务重新定义为一个分类/概率预测任务。

这样做的好处很直接：

• 可靠性：输出永远落在预定义的选项集合内，不会出现幻觉式的非法答案。
• 效率：所有问题在单次前向传播中完成，无需多轮对话或链式调用。
• 可解释性：概率值本身就提供了置信度信息，便于下游系统设置阈值或做风险控制。

对于需要确定性和可审计性的生产环境来说，这种"概率进、概率出"的模式比让大模型自由发挥要稳健得多。

从机器学习角度看，Clef的设计本质上是将决策问题建模为多标签分类（multi-label classification）或条件概率预测，而非自回归文本生成。传统自回归语言模型在每个时间步对整个词表（通常数万甚至数十万个token）做softmax采样，这个过程天然引入了随机性和不可控的输出空间。Clef则将输出空间收缩到schema预定义的有限选项集合上，对每个选项计算归一化概率——这与BERT时代的判别式模型（discriminative model）思路更为接近。单次前向传播（single forward pass）意味着模型只需要完整计算一遍网络权重，而不是像生成式模型那样逐token自回归循环，这在延迟和算力消耗上有结构性优势，尤其适合高频调用的推理场景。

生态兼容性：对接Jev与SystemOne

Clef的API被设计为与Jev和SystemOne完全兼容。这种兼容性意味着已经在使用这两套系统的开发者可以较低成本地接入Clef，而不必重构整个决策管线。

对于一个刚开源的模型而言，提供现成的生态对接点是降低采用门槛的务实做法。它表明Clef不是一个孤立的研究产物，而是面向实际工程集成的工具。

Jev和SystemOne是面向AI推理编排的框架，提供标准化的模型调用接口、任务路由和结果处理管线。在AI工程实践中，"与现有编排框架兼容"是一个常被低估的关键指标——开发团队往往已围绕某套框架构建了日志、监控、回滚机制，若新模型需要重写这些基础设施，迁移成本会显著高于模型本身的学习成本。Clef选择在API层面对齐这两套系统，意味着它可以作为现有决策节点的替换方案接入，而无需改动上下游的胶水代码。这也是开源模型在企业落地时的常见策略：通过协议兼容性而非功能独占来赢得采用。

为什么这类"决策模型"值得关注

Clef代表了一种正在兴起的思路：不是所有AI任务都需要一个会聊天的通用大模型。对于大量结构化决策场景——路由选择、内容审核判定、风险评分、配置决策——我们真正需要的是一个稳定、快速、输出可控的专用模型。

由Cloudflare这样一家以边缘计算和基础设施见长的公司开源，也暗示了它的潜在应用方向：在网络请求处理、安全策略判定等高吞吐、低延迟的场景中，一次前向传播就能给出结构化决策的模型具有天然优势。

从社区反馈看，Clef在Product Hunt上获得了91个投票并排名第8，进入了开源与人工智能分类。热度虽不算爆炸，但对于一个定位专业、技术门槛较高的决策模型来说，这样的关注度符合预期。

Cloudflare的核心业务包括CDN、DDoS防护、Zero Trust网络访问以及边缘计算平台Workers。这些场景每秒处理数百万次网络请求，每一次请求都可能触发安全策略判定、流量路由选择或内容过滤决策。在这种量级下，调用一个需要多轮对话或链式推理的通用大模型在延迟和成本上均不现实。单次前向传播、输出空间受限的决策模型，与边缘计算的低延迟要求天然契合。Clef的开源也可以理解为Cloudflare将内部基础设施工具向社区开放的一次尝试，类似于其此前开源的Workers Runtime等项目——通过技术生态影响力强化其在开发者社区的地位。

小结

Clef的核心价值不在于参数规模，而在于它对"AI如何做决策"这个问题给出的工程化答案。通过取消自由文本生成、直接输出结构化概率，它把决策任务变得可控、可审计、可集成。对于构建需要确定性输出的AI系统的团队来说，这是一个值得试用的开源选项。