Unverified50% confidenceBenchmarkExact time

GPT-4级别模型在消费级API下通常为30-80 TPS，优化过的小型模型或专用推理硬件可达200+ TPS

1

Sources

50%

Confidence

Medium-term (~90 days)

Relevance

7/15/2026

First Seen

Valid until: 10/13/2026

Sources

Perplexity AI深度实测：搜索引擎与AI问答的完美融合

Related Claims

Unverified主流商业模型如GPT-4o的输出速度通常在50-100 TPS区间83% similar VerifiedGPT-4o的调用成本约为GPT-4o-mini的15-20倍80% similar UnverifiedGPT-OSS 20B版本推理时仅激活3.6B参数，性能接近O3-mini77% similar UnverifiedGPT-4o等现代模型支持数万乃至十余万token的上下文长度77% similar UnverifiedGPT-4o 在保持 128K 上下文能力的同时实现了更快的推理速度和更低的成本77% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/521686

API

curl https://kongchang.com/api/v1/knowledge/claims/521686

MCP

get_claim(id=521686)