[控场AI]
· 4 分钟阅读· 2,119 字

Liquid AI决策模型d1.2上线AI Gateway:告别文本生成

Liquid AI决策模型d1.2上线AI Gateway:告别文本生成

Liquid AI d1.2 决策模型上线 AI Gateway,返回结构化判定而非生成文本。

Liquid AI 的 d1.2 与 d1.2-ultra 决策模型已登陆 AI Gateway,与生成式模型不同,它们不产出自由文本,而是直接返回结构化答案。模型支持 Boolean、Choice、Score 三类问题,一次请求中多个问题可共享同一份输入,减少重复推理。d1.2 更快更便宜,d1.2-ultra 精度最高,通过模型名切换即可。多模态方面支持音频与图像输入,Box 问题返回以图像宽高为基准的比例坐标,与分辨率解耦。这种设计把结构化提取前移到模型内部,降低后处理成本,但适合边界清晰的判定任务,并非通用助手的替代品。

Liquid AI 的 d1.2 和 d1.2-ultra 决策模型已正式登陆 AI Gateway,带来音频输入与边界框(bounding box)支持。与主流生成式模型不同,这两个模型不产出自由文本,而是直接返回结构化答案。

Liquid AI d1.2 上线 AI Gateway

决策模型与传统生成模型的分野

当前大模型的主流用法是「生成」——给定提示词,产出段落、代码或对话。Liquid AI 的 d1.2 系列走的是另一条路:把模型当作决策引擎使用。

用户可以向模型提出三类问题:Boolean 问题返回是/否的概率,Choice 问题从预设类别中选择一项,Score 问题则按评分标准对输入打分。一次请求中,多个问题可以共享同一份输入,这意味着对一段音频或一张图片,可以同时完成多个维度的判断,而不必反复调用模型。

这种设计对工程落地有实际意义。分类、审核、打标这类任务往往需要确定的输出格式,生成式模型的自由文本反而增加了后处理成本。结构化答案让下游系统可以直接消费结果。

双模型定位:速度与精度的取舍

d1.2 与 d1.2-ultra 形成明确的分工。d1.2 速度更快、成本更低,适合对延迟敏感或调用量大的场景;d1.2-ultra 则是 Liquid AI 目前精度最高的决策模型,面向对准确率要求更严苛的任务。

调用时只需在模型名中指定 liquid/d1.2 或 liquid/d1.2-ultra,并使用 AI Gateway 的 API Key 完成鉴权。开发者无需分别对接两套接口,切换模型仅是改一个字符串。

AI Gateway 是 Vercel 提供的一项模型路由与观测服务,开发者通过统一的 API Key 和端点访问多家厂商的模型,无需为每个供应商维护独立的鉴权与计费配置。除转发请求外,它还记录调用日志、统计 token 用量并计入预算,便于团队按项目核算成本。对 d1.2 这类决策模型而言,Gateway 的价值在于把调用纳入既有的可观测体系:每次判定请求的输入、输出与耗时都会留痕,方便排查结构化结果是否符合预期。

音频与图像:多模态决策的落地方式

d1.2 系列对多模态输入的支持是其区别于纯文本分类器的关键。在 AI SDK 示例中,模型可以接收音频文件,判断来电者是否在要求退款——返回的是一个概率值,而非一段解释性文字。该示例要求 ai 7.0.136 或更高版本,音频以 file 类型传入 state 参数。

图像分类同样支持,只需传入对应媒体类型的图像字节,例如 image/png。

更具实用价值的是边界框能力。Box 类型的问题会返回 top、bottom 作为图像高度的比例,left、right 作为图像宽度的比例,从而在图像中定位目标对象。Python 示例通过 Decisions API 在表单图片中定位签名区域并输出其边界框。这种「比例坐标」的设计使得结果与图像分辨率解耦,方便在不同尺寸的图片上复用。

决策请求会出现在 AI Gateway 的日志中,并计入预算消耗。

AI SDK 是 Vercel 推出的开源 TypeScript 工具库,为不同模型供应商提供统一调用接口,并用 file 这类类型描述多模态输入。文中提到的 7.0.136 版本号意味着多模态 file 参数需要较新的 SDK 才能正确序列化音频字节与 MIME 类型。若使用旧版本,音频可能被当作普通字符串处理,导致请求失败或判定结果异常,因此升级 SDK 是接入前的前置检查项。

边界框(bounding box)是计算机视觉中描述目标位置的标准方式,通常用矩形框的四个边界表示。常见做法是输出绝对像素坐标,但这类结果与输入图像分辨率强绑定,换一张尺寸不同的图片就需要重新换算。d1.2 的 Box 问题改为返回相对比例:top、bottom 相对图像高度,left、right 相对图像宽度,取值一般在 0 到 1 之间。下游渲染或裁剪时只需乘以实际宽高即可还原位置,同一套判定逻辑可直接复用于不同尺寸的图片。

对开发者的实际影响

把模型从「生成器」变成「判定器」,改变的是集成方式。传统做法是让生成模型输出文本,再用正则或解析器提取结构化字段,中间任何格式漂移都可能导致失败。d1.2 系列把这一步前移到模型内部,输出即结构化。

多问题共享输入的特性也值得关注。对一段客服录音,可以一次性询问「是否要求退款」「情绪是否负面」「是否需要转人工」等多个 Boolean 或 Choice 问题,减少重复推理开销。

需要留意的是,这类模型并非通用助手的替代品。它擅长的是边界清晰的判定任务,而非开放式创作或复杂推理。选型时应按任务性质区分,而非简单以「新模型」为标准替换现有方案。

决策模型文档和模型列表已在 AI Gateway 上提供,开发者可据此评估是否接入。

分享:

相关推荐