待验证50% 置信事实精确时间

GQA被Llama 2 70B和Llama 3系列采用，MQA被Falcon系列采用，通过多个查询头共享同一组KV头减少缓存的KV向量数量

1

来源数

50%

置信度

长期有效

时效性

2026/8/12

首次发现

来源

24GB显存跑本地LLM？实际可用显存没那么多

相关事实

待验证conda从4.6版本起引入基于libmamba的新求解器后端，将复杂环境依赖解析速度提升数十倍64% 相似已验证QLoRA结合了4-bit量化技术，在LoRA基础上进一步压缩显存需求63% 相似待验证LLaMA-2 70B采用80层、64个注意力头的架构，并使用GQA（8个KV头共享64个Q头）63% 相似已验证LoRA和QLoRA是当前主流的参数高效微调方法，允许在消费级GPU上完成微调61% 相似待验证Ollama 原生支持 GGUF 格式，大多数模型已预先量化为 Q4_K_M 或 Q8_0 等规格60% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/735611

API

curl https://kongchang.com/api/v1/knowledge/claims/735611

MCP

get_claim(id=735611)