[控场AI]
· 7 分钟阅读· 3,795 字

决策模型吃掉26%请求:Anthropic新团队2:1反超

决策模型吃掉26%请求:Anthropic新团队2:1反超

决策模型崛起、语音渗透翻倍、模型半衰期缩至六周,企业AI版图结构性位移。

AI Gateway 十月生产指数显示,企业 AI 的使用结构正在发生位移。决策模型上线六周即拿下约四分之一请求,凭借约为语言模型七十分之一的单次成本,成为规则引擎与通用大模型之间的新判断层,但因单价极低仅占总支出 0.53%,且用量越大的团队采用率越高。语音模型付费团队渗透率从七月约 4% 升至十月约 11%,一体化与自组装架构比例对调。厂商格局上,Anthropic 在新付费团队中的首选率接近 OpenAI 两倍,两家存量渗透率已几乎持平,OpenAI 支出份额从约 9 美分升至近 15 美分。最关键的信号是模型半衰期缩短至约六周:过半语言模型请求流向上线不足 60 天的模型,团队切换频繁且常跨实验室。

AI Gateway最新月度生产指数显示,企业AI的版图正在发生结构性位移。决策模型(Decision Models)在六周内拿下约四分之一的路由请求,Anthropic在新付费团队中的首选率接近OpenAI的两倍,而语言模型的"半衰期"已缩短到约六周。这些数字背后,是AI应用从"生成"向"判断"分化的清晰信号。

AI Gateway生产指数截图

决策模型:新的一层"判断"基础设施

过去软件需要快速做出判断时,只有两条路:写死规则,便宜但僵化;或者调用语言模型,聪明但慢且贵。决策模型成为第三种选项——它们不做文本生成,只负责分类、打分或在候选项中做选择。

按AI Gateway的统计,决策模型单次请求成本约为语言模型的七十分之一。九月下旬上线至今,已有来自八家厂商的15个决策模型可供选择。十月,近三分之一的付费团队使用了决策模型,其中约11%的团队完全没有向文本生成模型发送任何请求。

由于决策模型回答极短、单价极低,它们虽然吃下了约四分之一的请求量,却只占总支出的0.53%。这种"高频低值"的特征,恰好填补了传统规则引擎与通用大模型之间的空白地带。

谁在用决策模型

用量越大的团队,越依赖决策模型。月处理token少于1000万的团队中,略超五分之一使用了决策模型;在1亿到10亿区间,接近一半;超过10亿token的团队中,十支里有七支在用。

这既是因为大团队什么都用得多——按支出排名前1%的团队中位数使用29个不同模型,而排名后10%的团队只用1个——也是因为请求量越大,用决策模型替代简单判断的收益就越明显。

说个细节,决策模型的请求几乎全部流向了TypeSafe AI的Jev,其请求量接近Anthropic总量的四倍。但按支出算,团队每花1美元在Jev上,就要花64美元在Anthropic模型上——两条产品线在价值链上的位置截然不同。

AI Gateway(AI 网关) 是介于应用与多家模型提供商之间的统一路由层:开发者用同一套接口把请求分发到 OpenAI、Anthropic、Google 等不同厂商的模型,网关负责鉴权、计费、限流、回退与可观测性。由于所有请求都经过同一入口,网关天然能产出跨厂商、跨模型的聚合使用数据——这正是本文各项统计的来源。需要注意的是,这类数据只反映"经由该网关路由"的流量,样本偏向已经采用多模型架构的团队,不能直接外推为整个企业 AI 市场的全貌;支出数字也是按公开标价估算,而非实际成交价。

决策模型(Decision Models) 指专门为分类、排序、打分、在有限候选项中做选择等任务训练的模型,典型形态包括小型分类器、重排模型和结构化判别模型。它们不生成自由文本,输出通常只是一个标签、一个分数或一个选项,因此单次请求的算力开销和延迟都远低于通用语言模型。与规则引擎相比,决策模型能从标注数据中学习边界条件,不必人工穷举 if-else;与语言模型相比,它又避免了冗长推理带来的成本与时延。文中提到的 Jev 即属于这一品类。

语音模型:付费团队渗透率翻倍有余

十月约有九分之一的付费团队使用了语音模型,相比七月的二十四分之一增长了161%。新增来自两个方向:新团队直接选用语音,老团队则在原有栈上叠加语音能力。七月和十月都付费的团队中,语音使用率从5%升至14%。

深度使用也在增加。每月发送至少100次语音请求的团队占比增长了五倍;九月使用语音的团队中有六成在十月继续使用,高于七月时不到一半的留存。

一次语音对话通常分三步:语音转文字、语言模型生成回复、文字转语音。多数团队只用其中一两个环节。自七月以来,语音转文字模型的使用量接近三倍,文字转语音增长超过三倍。

架构选择也在翻转:七月时约四分之一的语音团队使用一体化模型,六分之一自行组装三个环节;到十月,这两个比例恰好对调。对多数团队而言,语音是给已有应用或智能体增加的一种新交互入口,中间的语言模型保持不变,语音能力加在一端或两端。

语音链路的三个环节各有专门模型:语音转文字(STT/ASR)负责把音频转成文本,文字转语音(TTS)负责把回复合成语音,中间的语言模型负责理解意图与生成内容。所谓"一体化模型"(speech-to-speech),是指单一模型直接完成音频输入到音频输出的端到端转换,省去中间的文本中转,延迟更低、语调与情绪保留更好,但可控性和可调试性较弱;"自行组装"则是把 STT、LLM、TTS 三个独立环节串联,便于替换其中任一组件、复用已有的语言模型与提示词体系,代价是链路更长、累计延迟更高。文中两类架构比例对调,说明团队在尝鲜之后更倾向于把语音作为可插拔能力嵌入既有技术栈。

Anthropic与OpenAI:新团队争夺战

去年十二月,AI Gateway上每100支付费团队中有70支使用OpenAI模型,48支使用Anthropic模型。到十月,两者几乎持平:OpenAI为55,Anthropic为54。

在十二月就已在网关上的老团队中,两家的渗透率都在上升,但Anthropic涨得更多——从约一半升至约三分之二,OpenAI则从约四分之三升至五分之四。

Anthropic的增量主要来自新团队:十月,它成为近两倍于OpenAI的新团队首选实验室。不过在支出最大的团队中,两家几乎已全覆盖——支出前1%的团队中超过九成同时使用Anthropic和OpenAI,竞争焦点已从"进不进得去"转向"能拿到多少工作量"。

按支出份额看,Anthropic仍领先,但OpenAI在追赶。OpenAI现在拿走网关每1美元支出中的近15美分,高于十二月的约9美分;Anthropic的份额同期减半至约32美分。

"首选实验室"与"渗透率"是两个不同的指标,理解二者的区别是读懂本节的关键。渗透率衡量的是"有多少团队在用",同一团队可以同时使用多家厂商,因此两家的渗透率之和可以超过 100%;首选率衡量的是"新团队第一次接入时选了谁",反映增量市场的争夺结果。这正是文中看似矛盾的现象的来源:Anthropic 在新团队中的首选率接近 OpenAI 的两倍,但在存量团队渗透率上两者已几乎持平。而支出份额又是第三个维度,衡量的是"钱流向谁"——一个团队可能同时调用两家模型,但把更重的生产负载放在其中一家。三个指标分别对应获客、存量和钱包份额,单看任何一个都会得出片面结论。

模型半衰期六周:忠诚度正在消失

十月超过一半的语言模型请求流向了上线不足60天的模型。而在九月之前,这个比例从未超过三成。

模型家族的版本迭代中位数是每61天一次,典型模型在上线一个月内达到使用峰值。峰值过后四周,四分之三当时在用的团队已经离开——无论该家族是否发布了后继版本。这些团队大多仍留在AI Gateway上,只是换了别的模型。

切换非常频繁,且往往跨实验室。十月,月处理至少1000万token的团队中约一半更换了最常用的模型;其中五分之四转向更新的版本,六成转向了不同实验室。

老模型并未消失,常与新的主力模型并存。同样是这批大团队,七成仍在使用至少十个月前的模型,但中位数上它只跑了不到3%的token。

这组数据揭示了一个冷酷的现实:模型对团队而言的"半衰期"约为六周。实验室只能靠最新模型说话,每一个新版本都要重新赢回客户。

"模型半衰期"是一种类比式指标,并非严格定义:它借助放射性衰变的概念,描述一个模型在被新版本取代前维持主力地位的时间尺度。文中的测算方式是观察典型模型达到使用峰值后四周内仍有约四分之三的在用团队离开,由此推得团队对单一模型的注意力周期约为六周。这一指标之所以重要,是因为它把"模型迭代速度"从实验室视角转成了需求侧视角——版本发布的节奏由厂商决定,但团队实际迁移的速度决定了每个版本能兑现多少商业价值。需要留意的是,这里的"离开"多指不再将其作为主力模型,而非彻底停用;老模型常以兜底或特定任务的角色长期并存,因此半衰期短并不等于旧模型被淘汰。

十月其他值得关注的信号

按支出计,Opus 5.5在其首个完整月份成为最热门模型,拿下全团队约七分之一的支出。网关使用最广的六个模型中,四个来自Anthropic:Sonnet 5.5(覆盖26%付费团队)、Haiku 5.5(22%)、Haiku 4.5(20%)、Opus 5.5(18%);另外两个是Jev(28%)和GPT-6 Luna(19%)。

图像与视频模型双双创下在AI Gateway上的最大月份。支出前1%的团队中约三分之一使用图像模型,高于七月的四分之一;六分之一使用视频模型,高于七月的十分之一。OpenAI最新的GPT-Image-2.5 Sunburst在首个完整月份领跑图像支出,字节跳动的Seedance 2.5连续第三个月领跑视频支出,领先于Google的Veo 3.1和快手的Kling 3.0。

以上数据基于通过Vercel AI Gateway路由的匿名聚合流量,支出按公开标价估算。

#决策模型#AI Gateway#Anthropic#OpenAI#语音模型#模型半衰期#企业AI采用#AI生产指数
分享:

相关推荐