待验证50% 置信基准精确时间
使用llama.cpp运行IQ3_XXS量化模型时，输出速度仅为15 tok/s，提示处理为100-120 tok/s，而自研引擎将同样量化提升到约65 tok/s输出、430 tok/s提示处理，接近4倍性能提升
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/24
首次发现
有效期至：2026/12/23
来源
涉及实体
相关事实
待验证转速（RPM）在1800-3200区间即可覆盖绝大多数需求，超过3200RPM的高转速反而会因单次冲击时间过短降低渗透感，营销标称的4000+RPM实际体感提升有限74% 相似待验证传统大模型的输出速度通常在每秒50-150个Token之间，高性能模型如Claude、GPT-4o优化后可达每秒200-400个Token72% 相似待验证在约52个并发连接时系统基本100%饱和，最大每秒生成约704个token，但延迟飙升至64秒70% 相似待验证V3引入KV缓存后，从512-token提示词生成100个token的耗时从278秒降到28秒，接近10倍加速69% 相似待验证使用TaoMate的3步ref2va turbo LoRA，在RTX 3090上生成一段9.4秒片段约需4-5分钟，相比8步时的12.5分钟大幅提速69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/948578API
curl https://kongchang.com/api/v1/knowledge/claims/948578MCP
get_claim(id=948578)