待验证50% 置信事实精确时间

GQA (Grouped Query Attention) was introduced by Meta in LLaMA 2

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

LFM2.5 Local Deployment Hands-On: An 8B Parameter Model That Outperforms GPT-o3s in Tool Calling

bilibiliAGI_Ananas2026/6/1

相关事实

已验证LLaMA 3 8B采用了分组查询注意力（GQA），将Key和Value的注意力头数量减少为Query头数的1/469% 相似待验证Muse Glimmer采用Grouped Query Attention（GQA），仅有2个KV头，使KV Cache极为节省65% 相似待验证Meta开源的Llama Guard系列基于Llama架构微调，专门针对有害内容分类任务优化，参数量远小于完整生成模型54% 相似待验证由于基准饱和问题，社区开始转向GPQA和SWE-bench等更复杂的评测体系52% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/47932

API

curl https://kongchang.com/api/v1/knowledge/claims/47932

MCP

get_claim(id=47932)