待验证50% 置信事实精确时间
QuaRot 由 ETH Zurich 于 2024 年提出，将旋转矩阵融入 Transformer 各计算节点
1
来源数
50%
置信度
长期有效
时效性
2026/7/12
首次发现
来源
INT4 ConvRot W4A4量化：ComfyUI低显存运行大型图像模型实战
redditr/comfyui2026/7/11
相关事实
待验证QuaRot（2024，ETH Zurich）首次将Hadamard旋转系统性地融入Transformer各计算节点，在LLaMA系列上验证了接近FP16的精度表现83% 相似已验证Qwen 3.5架构使用改进的Transformer变体，融合了分组查询注意力（GQA）和旋转位置编码（RoPE）等技术63% 相似待验证Qwen底层架构基于Transformer技术，参数规模从70亿到数千亿不等61% 相似待验证DiffusionBlocks在五种不同架构上进行了验证：ViT、DiT、Masked Diffusion、自回归Transformer和循环深度Transformer59% 相似待验证Transformer架构最初由Vaswani等人于2017年为NLP设计，后被迁移到视觉（ViT）、音频、蛋白质结构预测等几乎所有AI子领域58% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/489937API
curl https://kongchang.com/api/v1/knowledge/claims/489937MCP
get_claim(id=489937)