待验证50% 置信基准精确时间
AntAngelMed 在 H20 硬件上推理速度超过 200 tokens/s。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/14
首次发现
有效期至：2026/10/28
来源
涉及实体
相关事实
待验证测试者用双4090（48GB显存）工作站运行20.7B稠密模型，每秒生成27.6个Token，仅比矮星略快，但参数量小10倍以上68% 相似待验证官方估计24GB显卡约能跑100~140 tokens/秒66% 相似待验证若带宽达到2.4TB/s，100GB模型理论速度上限可达24 token/s，60GB模型40 token/s，35GB模型接近69 token/s66% 相似待验证在 AMD RX 7900 显卡实测中，Ornith 35B 总体准确率 85%（21 项通过 18 项），生成速度 74 tokens/秒，提示词处理 850 tokens/秒，显存占用 20GB66% 相似待验证在4bit量化版本（完全放入32GB显存）测试中，Ollama达240 tokens/s，FreeToken为225 tokens/s，Ollama反而更快66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1032155API
curl https://kongchang.com/api/v1/knowledge/claims/1032155MCP
get_claim(id=1032155)