本地模型为何在Doom游戏决策中击败Jev AI API？

在AI游戏代理的实践中，延迟往往是决定胜负的关键因素。最近，一位YouTube创作者通过Doom游戏环境对比了本地模型GLiNER与托管API（Jev AI）的表现，结果引人深思：本地模型不仅响应更快，决策频率也成倍提升。

延迟：本地模型与API的分水岭

视频作者明确指出，使用API与本地模型的延迟差异带来了巨大影响。GLiNER完全在本地运行，响应时间仅为12毫秒，能够对游戏中的变化做出即时反应。相比之下，Jev AI作为托管服务，需要通过网络往返，延迟显著更高。

这种延迟差异直接影响了AI代理的决策质量。在快节奏的Doom游戏中，每一毫秒都至关重要。本地模型能够更快地感知环境并采取行动，而API调用则可能错过最佳时机。

网络往返延迟（RTT） 是理解这一对比的关键概念。当客户端向托管API发起请求时，数据需要经过公网传输到服务商的数据中心，完成推理后再将结果返回。这一过程至少包含一次完整的往返，物理距离、路由跳数、拥塞状况都会叠加到耗时中。即便服务商在同一城市，RTT通常也在10-50毫秒量级；跨区域调用则可能达到100-300毫秒。对于每秒需要多次决策的游戏代理，每次调用都串行累积这部分开销，而本地推理只需承担模型前向计算的时间，12毫秒的响应几乎全部来自计算本身。

推理延迟与吞吐 也值得区分：延迟指单次请求从发出到拿到结果的时间，吞吐指单位时间内能处理的请求数。游戏代理既要求低延迟，也要求高决策频率，因为代理需要在每个游戏 tick 内完成感知与动作选择。托管API往往通过批处理提升吞吐，但这会进一步拉高单次延迟；本地小模型则可以在单条样本上直接推理，天然适合这种“低延迟、高频次”的负载模式。

决策频率：8.8次/秒 vs 2.5次/秒

根据视频中的数据，GLiNER每秒能做出8.8次决策，而Jev AI由于托管服务的限制，每秒仅能做出2.5次决策。这意味着本地模型的决策频率是API的3倍以上。

更高的决策频率让AI代理能够更精细地控制游戏角色，及时应对突发状况。在Doom这类需要快速反应的第一人称射击游戏中，这种优势尤为明显。

GLiNER 是一类基于双向编码器架构的轻量级信息抽取模型，其设计目标是在不依赖大语言模型生成能力的前提下，用较小的参数量完成实体识别等结构化任务。它把命名实体识别转化为“文本片段与实体类型”的匹配问题，因此推理路径短、计算量小，适合在CPU或消费级GPU上以毫秒级延迟运行。相比之下，Jev AI作为托管服务，其背后往往挂载更大的语言模型或多阶段流水线，单次调用需要更长的计算与调度时间。两者在架构定位上的差异——专用小模型 vs 通用大模型服务——正是决策频率相差三倍以上的结构性原因，而不仅仅是网络开销造成的。

性能提升：得分翻倍

决策频率的提升直接反映在游戏得分上。视频作者提到，使用GLiNER后，平均得分“翻倍以上”，而Jev AI配合语言模型（LM）虽然也能工作，但提升幅度很小。

这一结果并不意外：更快的响应和更高的决策频率让AI代理能够更有效地消灭敌人、躲避攻击，从而获得更高分数。

为什么本地模型更适合游戏AI？

本地模型的核心优势在于消除网络延迟。对于实时性要求高的游戏环境，12毫秒的响应时间几乎可以忽略不计，而API调用的延迟可能达到数百毫秒。此外，本地模型不依赖外部服务，稳定性和隐私性也更好。

当然，本地模型也有其局限性，例如需要本地计算资源，且模型更新可能不如云端及时。但对于追求极致性能的游戏AI场景，本地部署显然是更优解。

Doom游戏环境 常被用作AI代理的基准测试平台，原因在于它提供了第一人称射击所需的实时感知-决策-行动闭环：代理需要根据画面或游戏状态在极短时间内选择移动、转向、射击等动作。这类环境的动作空间连续、状态变化快，对决策周期极为敏感。学术界的ViZDoom等平台正是为此设计，允许研究者以固定帧率运行代理并测量得分。在这种设定下，代理每秒钟能执行的决策次数直接决定了它对敌人出现、弹道变化等事件的反应粒度，这也解释了为何决策频率的提升会转化为得分的显著提高。

结论

这次对比实验清晰地展示了本地模型在延迟敏感型任务中的优势。GLiNER凭借12毫秒的响应时间和8.8次/秒的决策频率，在Doom游戏中大幅超越Jev AI API。对于游戏AI开发者而言，如果实时性是关键需求，本地模型值得优先考虑。

（注：本文数据均来自视频内容，未添加额外信息。）