待验证50% 置信事实精确时间

GPT-3这类大模型有几十层，参数量达到数百亿，核心结构是Decoder层模式的重复堆叠

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

从零手撸Transformer：核心架构与PyTorch代码实战

涉及实体

相关事实

待验证前沿模型的参数量已从GPT-3的1750亿跃升至万亿级别，通常基于Transformer架构75% 相似已验证GPT-3拥有1750亿参数75% 相似已验证GPT-4级别的大语言模型拥有数千亿参数，每次响应需要在高端GPU（如NVIDIA A100/H100）上完成数十亿次浮点运算75% 相似待验证规模定律的发现直接催生了GPT-3、GPT-4、PaLM等超大规模模型75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/904291

API

curl https://kongchang.com/api/v1/knowledge/claims/904291

MCP

get_claim(id=904291)