待验证50% 置信事实精确时间

在每张卡 16384 个 Token、每个 Token 7168 个数（每数 2 字节）、复印 6 份的配置下，一次 Dispatch 单张卡需搬运约 1.4GB 数据，FP8 可将该量减半

1

来源数

50%

置信度

长期有效

时效性

2026/10/3

首次发现

来源

DeepEP Ascend 拆解：DeepSeek MoE 通信库搬上国产昇腾

涉及实体

Dispatchconcept FP8technology

相关事实

待验证双卡 24GB 张量并行配置在 f16 精度下上下文支持从 134,049 增至 262,144 token70% 相似待验证FP16使用16位存储数值（1位符号位、5位指数位、10位尾数位），可表示约65000个离散值70% 相似待验证UP主使用FP8精度部署千问3.8 27B在48GB显卡上，跑4个并发request占用约46GB69% 相似待验证约1.6M超长上下文配合128并发时，吞吐可达约3700 tokens/s（聚合）68% 相似待验证4-5 token/秒的速度对于8GB显卡的实际使用而言太慢，16GB显卡可提升到12-14 token/秒进入实际可用范围68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/970626

API

curl https://kongchang.com/api/v1/knowledge/claims/970626

MCP

get_claim(id=970626)