待验证50% 置信事实精确时间

SwiGLU会增加约50%的前馈层参数量，但在相同计算预算下已被证明能持续提升模型质量，Meta的LLaMA和Google的PaLM均采用

1

来源数

50%

置信度

长期有效

时效性

2026/8/29

首次发现

来源

750美元从零训练3个LLM：一位开发者的实战复盘

涉及实体

SwiGLUconcept LLaMAmodel PaLMmodel

相关事实

待验证2024年部分模型在SWE-bench上的成功率提升至30%-50%区间64% 相似待验证SWE-bench Verified子集的通过率从2024年初不足5%跃升至49%61% 相似待验证SWE-bench基准上最优系统的解决率已从最初的不到5%提升至超过40%60% 相似待验证顶尖模型在SWE-bench上的解题率从2023年的不足5%跃升至2025年的30%以上60% 相似已验证2024年顶级模型在SWEbench-Verified上的通过率约为50-70%59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/819741

API

curl https://kongchang.com/api/v1/knowledge/claims/819741

MCP

get_claim(id=819741)