待验证50% 置信事实精确时间
ExLlamaV3 v1.0.0 彻底移除了 flash-attention-2 和 xformers 依赖，改用自研注意力内核
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/16
首次发现
有效期至：2026/10/14
来源
相关事实
待验证Flash Attention 2 在 A100 上实现约 2 倍加速，Flash Attention 3 针对 Hopper 架构（H100）引入异步执行与低精度 FP8 支持70% 相似待验证Transformers库集成了GPTQ、AWQ、bitsandbytes等量化技术和Flash Attention加速方案63% 相似待验证Megatron-LM最早系统化提出了针对Transformer的张量并行方案，将注意力头和FFN层分别切分到不同设备59% 相似待验证Flash Attention 3 已于 2024 年针对 H100 的 Hopper 架构进一步优化，将吞吐量推向硬件理论上限的 75% 以上56% 相似待验证Llama-3 70B采用80层Transformer、每层64个注意力头、每头128维配置，并采用GQA设计55% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/527870API
curl https://kongchang.com/api/v1/knowledge/claims/527870MCP
get_claim(id=527870)