待验证50% 置信观点精确时间
GPT-6 Astra 被猜测采用了循环 Transformer 架构,即在输出一个 token 之前执行多次前向传播
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/7
首次发现
有效期至:2027/1/5
来源
涉及实体
相关事实
待验证GPT-6 Astra采用了Vision Transformer(ViT)架构进行视觉处理78% 相似已验证GPT代表'Generative Pre-trained Transformer'(生成式预训练Transformer)72% 相似已验证GPT系列采用Transformer的解码器(Decoder-only)变体,通过自回归方式逐Token预测下一个词71% 相似已验证Transformer架构成为BERT(2018)、GPT系列、T5等现代大语言模型的核心基础,被引次数超过10万次71% 相似待验证Google的Switch Transformer、Mistral的Mixtral 8x7B以及据报道的GPT-4架构均采用稀疏MoE设计,推理时只激活部分参数71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/982874API
curl https://kongchang.com/api/v1/knowledge/claims/982874MCP
get_claim(id=982874)