待验证50% 置信基准精确时间
RTX A6000 是 Ampere 架构，没有原生 FP8 硬件，sglang 将 FP8 权重通过 Marlin 内核即时解包，基础 Qwen3.8-27B 在该卡上解码速度为 24 tok/s，而 RedHatAI 的 INT4 W4A16 量化在相同卡、相同 1M 上下文下达到 41 tok/s。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至：2027/1/13
来源
涉及实体
相关事实
已验证RTX A6000基于Ampere架构，搭载10496个CUDA核心与48GB GDDR6显存，带宽768 GB/s，FP32算力38.7 TFLOPS80% 相似待验证Qwen 4B 和 7B 版本在 8GB 显存的 RTX 3060 等入门级显卡上即可流畅运行75% 相似待验证采用8张RTX 5090的企业级算力服务器可提供256GB显存，能够运行Qwen3.8-Flash-Next的FP8版本72% 相似已验证ESP32搭载双核Xtensa LX6处理器，主频可达240MHz，拥有520KB SRAM72% 相似待验证RTX 3090无法运行NVFP4量化格式，因其Ampere架构Tensor Core不支持NVFP4指令，只能使用Q4格式，速度在40-48 tokens/秒71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1033437API
curl https://kongchang.com/api/v1/knowledge/claims/1033437MCP
get_claim(id=1033437)