待验证50% 置信事实精确时间
Keera的架构基于GPT-2 small：12层Transformer块，隐藏维度768，总参数量97.5M。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
已验证GPT-2有四个规格：117M、345M、762M和1.5B参数66% 相似待验证Google的Switch Transformer、Mistral的Mixtral 8x7B以及据报道的GPT-4架构均采用稀疏MoE设计，推理时只激活部分参数62% 相似待验证GPT-4、DeepSeek等现代大模型持续堆规模的理论依据是Transformer架构与规模定律的结合61% 相似已验证现代大模型（如GPT系列、Qwen、DeepSeek）普遍采用Transformer的Decoder-only变体61% 相似待验证Karpathy的microGPT项目是一个极简的GPT训练实现，核心代码仅数百行，旨在让开发者理解Transformer架构的本质60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1057712API
curl https://kongchang.com/api/v1/knowledge/claims/1057712MCP
get_claim(id=1057712)