#2亿参数语言模型

一块RTX 5090训练25小时：从零构建2亿参数GPT全记录

开发者用一块租来的RTX 5090显卡，25小时从零训练出2亿参数GPT模型。完整复现RoPE、KV Cache、SwiGLU等现代LLM技术栈，详解训练成本、架构设计与生成效果。