待验证50% 置信事实精确时间

gemma:2b 模型在普通机器上本地推理可能需要几秒到十几秒的响应时间

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

Spring AI + Ollama：零成本本地运行大模型实战

bilibili枫叶边城2026/6/3

相关事实

已验证一次 LLM 模型推理动辄数百毫秒甚至数秒，而确定性代码的执行时间通常在微秒级71% 相似待验证对于BERT-base模型推理会话初始化通常耗时数百毫秒，重复执行会使延迟增加1-2个数量级71% 相似待验证一次复杂代码生成请求的推理过程可能持续10-30秒，期间持续占用高端GPU67% 相似待验证RT-2的580亿参数方案推理延迟高达数秒，难以满足机器人实时控制的毫秒级响应需求67% 相似已验证AI编程工具对代码补全的响应时间容忍度通常在200-500毫秒以内65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/61455

API

curl https://kongchang.com/api/v1/knowledge/claims/61455

MCP

get_claim(id=61455)