GPT
GPT（Generative Pre-trained Transformer）是由OpenAI开发的大规模预训练语言模型系列，基于Transformer架构，通过在海量文本数据上进行无监督预训练后经微调使用。该模型系列具备自然语言理解与生成能力，可执行文本续写、问答、摘要、翻译、代码生成等多种任务，是自然语言处理领域的代表性基础模型之一。
核心事实
时间轴 (近 90 天)
Transformer架构取代了RNN的循环结构，大幅提升训练效率，是GPT、BERT等现代大语言模型的底层骨架。
Mistral AI以“开放+高效”为差异化路线，在开源社区积累了较高声誉，Large系列承担与GPT、Claude等前沿闭源模型正面竞争的角色。
Gemini 4 Argon 能直接听 beat 写词，而 GPT 和 Claude 只能分析 BPM 等数值。
同一个 Claude 或 GPT 模型可被 Claude Code、OpenCode 等不同 harness 驱动出不同行为。
Hermes底层实际调用的是复杂推理模型，如GPT系列、Claude系列或某个开源权重模型。
对于同样的简单请求，推理模型（如Claude或GPT）完成整个链条通常需要2秒甚至5秒。
为权威输出命名可使三个GPT模型在普通检索基础上提升6.3至7.9个百分点。
重新运行全部11,007次记录的模拟器调用后发现，两个GPT模型计算关键值的频率与之前大致相同。
在检索条件下，GPT模型经常跳过报告，依据自身更高精度的输出文件作答，并错误舍入到相邻选项，研究者称此失败模式为“证据替换”。
Copilot CLI 内置的 rubber duck agent 使用 GPT 审核 Opus 写出的计划，利用不同模型训练数据差异做交叉验证。
还有 40 条时间轴事件
全部知识事实 (20)
GPT和BERT等大语言模型基于自监督学习范式
90%已验证Few-Shot提示的上下文学习（In-Context Learning）能力在GPT-3的论文中被首次系统性描述
90%已验证GPT-4、Claude、Gemini等大语言模型的核心工作原理是基于Transformer架构的下一个token预测
90%已验证Azure OpenAI Service为企业客户提供了在合规环境中调用GPT-4、DALL-E、Whisper等模型的能力
85%已验证WorkBuddy的界面与千问、豆包、GPT非常类似
80%已验证GPT是OpenAI基于Transformer架构开发的大型语言模型系列
80%已验证GPT系列使用tiktoken（基于BPE编码）进行Token化
80%已验证GPT系列采用Transformer的解码器（Decoder-only）变体，通过自回归方式逐Token预测下一个词
80%已验证VLM（视觉语言模型）通常由视觉编码器（如ViT）、语言模型和连接两者的投影层组成，代表性模型包括GPT-4V/4o、Claude 3.5、LLaVA系列和InternVL
80%已验证项目通过OpenRouter接入大语言模型，OpenRouter作为AI模型网关支持统一API调用多种大模型如GPT-4、Claude、Llama等
80%已验证2024年以来OpenAI多次下调GPT系列API价格
80%已验证Function Calling（函数调用）机制最早由OpenAI在2023年引入GPT系列模型
80%已验证当前所有主流大模型（GPT、BERT、LLaMA等）都基于Transformer架构
80%已验证GLM采用了独特的自回归填空预训练范式，与GPT的纯自回归和BERT的纯掩码语言模型都有所不同
80%已验证当前主流大语言模型（如GPT-4、Claude等）的上下文窗口已扩展到128K甚至更长的token
80%已验证Function Calling是OpenAI在2023年中期率先推出的特性，随后被各大模型厂商跟进
80%已验证GPT系列模型使用字节对编码（Byte Pair Encoding，BPE）算法将文本切分为Token
80%已验证在GPT系列模型中，一个中文汉字通常对应1到2个Token，一个英文单词大约对应1到1.5个Token
80%已验证Vibe Coding是指开发者以自然语言描述意图、由AI完成大部分代码生成的编程范式
80%已验证GPT-4、Claude等大语言模型的代码生成能力源于训练数据中包含了GitHub上数以亿计的开源代码库
80%