待验证50% 置信事实精确时间

ChatGPT等云端服务的实际生成速度通常在30-80 tok/s之间，本地部署的7B量化模型在消费级GPU上通常能达到20-40 tok/s

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/27

首次发现

有效期至：2026/11/25

来源

FreeToken：753B大模型塞进单卡的本地部署硬件账该怎么算

涉及实体

相关事实

待验证ChatGPT Plus用户在GPT-4o上享有每3小时80条消息的使用额度70% 相似待验证主流商业模型如GPT-4o的输出速度通常在50-100 TPS区间69% 相似待验证GPT-4级别模型在消费级API下通常为30-80 TPS，优化过的小型模型或专用推理硬件可达200+ TPS67% 相似待验证云端推理可调用更大参数模型（如 Claude 3.5、GPT-4o），但代价是网络往返延迟（通常100-500ms）和持续的API调用成本66% 相似待验证ChatGPT此前已通过GPT-4消息数量上限等方式做过使用限额尝试65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/809889

API

curl https://kongchang.com/api/v1/knowledge/claims/809889

MCP

get_claim(id=809889)