Unverified50% confidenceFactExact time
GQA由Google在2023年提出，将多个查询头共享同一组Key-Value头，可降低KV Cache内存消耗50%-75%
1
Sources
50%
Confidence
Long-term
Relevance
7/6/2026
First Seen
Sources
26M超轻量模型Needle：本地微调工具调用全流程实战
bilibili薛定猫AI7/3/2026
Related Claims
UnverifiedGQA由Google在2023年提出，将多个查询头共享同一组Key-Value头，已被LLaMA 3、Mistral等主流模型采用82% similarUnverifiedGQA（分组查询注意力）是标准多头注意力的高效变体，由Google在2023年提出，已被LLaMA 3、Mistral等主流模型采用67% similarVerified思维链（Chain-of-Thought）提示技术由Google Research于2022年提出64% similarUnverified推测性解码由Google Brain于2023年正式提出，核心洞察是GPU在验证一批Token时的计算成本与验证单个Token相近64% similarUnverifiedGoogle在2024年3月的核心算法更新中大规模降权了依赖AI批量生成、缺乏原创价值的内容站点，部分站点流量下跌超过90%64% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/115323API
curl https://kongchang.com/api/v1/knowledge/claims/115323MCP
get_claim(id=115323)