GPT
GPT(Generative Pre-trained Transformer)是由OpenAI开发的大规模预训练语言模型系列,基于Transformer架构,通过在海量文本数据上进行无监督预训练后经微调使用。该模型系列具备自然语言理解与生成能力,可执行文本续写、问答、摘要、翻译、代码生成等多种任务,是自然语言处理领域的代表性基础模型之一。
核心事实
时间轴 (近 90 天)
与 GPT 等从左到右逐 token 生成的自回归模型不同,dLLM 在推理时揭示顺序并不固定,具备并行解码与任意顺序生成的潜力,但引入了解码顺序决策问题。
计算机使用能力在新一代 GPT 和 Opus 模型中表现远好于前代,端到端 QA 首次接近被解决。
用同一个模型审查自己写的代码,捕获的 Bug 会更少,因为它在审查时会以同样的方式失败;因此应使用不同模型进行代码编写和审查(模型反转)。
Claude 模型出现一次性错误的概率约为 GPT 模型的三倍,而 GPT 模型出现认证绕过的概率明显高于 Claude 模型。
在Grace 1间接提示注入测试中,Gemini 4 Carbon在15次攻击尝试下攻击成功率为0%,而GPT为8.5%,Grok为51.8%。
第一版 Neural Yap 基准结果显示,GPT 系列模型废话最少(排名最低),而 Claude Opus 5.5 是废话最多的模型。
作者据轶事观察认为 Claude 模型比 GPT 模型更愿意听从系统指令文件(如 CLAUDE.md、AGENTS.md)中的简洁要求,但此点未量化。
在话术短语子类别上,GPT 模型得分最低(废话最少),Mistral Large 4 和 DeepSeek V4 Flash 则话术使用更啰嗦。
Legora是一个法律AI平台,将GPT系列模型嵌入律师日常工作的多个环节,用于合同审查等任务。
“生成式人工智能”指能够根据提示生成文本、图像、音频等内容的一类模型,以GPT、扩散模型等为代表。
还有 40 条时间轴事件
全部知识事实 (20)
GPT和BERT等大语言模型基于自监督学习范式
90%已验证Few-Shot提示的上下文学习(In-Context Learning)能力在GPT-3的论文中被首次系统性描述
90%已验证GPT-4、Claude、Gemini等大语言模型的核心工作原理是基于Transformer架构的下一个token预测
90%已验证OpenAI通过ChatGPT的插件系统和GPT Store构建AI Agent工具生态
90%已验证GPT-4 and Claude are large language models that can understand context, generate structured outputs, and execute multi-step reasoning
85%已验证Azure OpenAI Service为企业客户提供了在合规环境中调用GPT-4、DALL-E、Whisper等模型的能力
85%已验证WorkBuddy的界面与千问、豆包、GPT非常类似
80%已验证GPT是OpenAI基于Transformer架构开发的大型语言模型系列
80%已验证GPT系列采用解码器路线,坚持自回归语言模型目标,通过扩大规模揭示了涌现能力现象
80%已验证GPT系列使用tiktoken(基于BPE编码)进行Token化
80%已验证GPT系列采用Transformer的解码器(Decoder-only)变体,通过自回归方式逐Token预测下一个词
80%已验证VLM(视觉语言模型)通常由视觉编码器(如ViT)、语言模型和连接两者的投影层组成,代表性模型包括GPT-4V/4o、Claude 3.5、LLaVA系列和InternVL
80%已验证项目通过OpenRouter接入大语言模型,OpenRouter作为AI模型网关支持统一API调用多种大模型如GPT-4、Claude、Llama等
80%已验证2024年以来OpenAI多次下调GPT系列API价格
80%已验证Function Calling(函数调用)机制最早由OpenAI在2023年引入GPT系列模型
80%已验证当前所有主流大模型(GPT、BERT、LLaMA等)都基于Transformer架构
80%已验证GLM采用了独特的自回归填空预训练范式,与GPT的纯自回归和BERT的纯掩码语言模型都有所不同
80%已验证当前主流大语言模型(如GPT-4、Claude等)的上下文窗口已扩展到128K甚至更长的token
80%已验证Function Calling是OpenAI在2023年中期率先推出的特性,随后被各大模型厂商跟进
80%已验证GPT系列模型使用字节对编码(Byte Pair Encoding,BPE)算法将文本切分为Token
80%