GPT
GPT(Generative Pre-trained Transformer)是由OpenAI开发的大规模预训练语言模型系列,基于Transformer架构,通过在海量文本数据上进行无监督预训练后经微调使用。该模型系列具备自然语言理解与生成能力,可执行文本续写、问答、摘要、翻译、代码生成等多种任务,是自然语言处理领域的代表性基础模型之一。
核心事实
时间轴 (近 90 天)
OpenAI的GPT系列拥有更成熟的生态、更丰富的第三方工具链和更广泛的开发者认知度。
vibecoder指主要依靠自然语言提示让AI(如Cursor、Claude、GPT等)生成绝大部分代码,以极短周期完成产品构建与部署的开发者。
《纽约时报》诉 OpenAI 和微软案指控其未经授权使用数百万篇报道训练 GPT 模型;多位作家对 Meta 提起集体诉讼,指控其使用受版权保护的书籍训练 Llama 模型。
自回归采样是GPT系列语言模型、PixelCNN、WaveNet等生成模型的核心机制。
过度工程化问题在Claude、GPT等主流模型中都曾被开发者诟病
理解反向传播是理解Transformer、GPT、LLaMA、MoE等现代模型架构的前提。
在天气查询实验中,LLM自主决定调用get_current_weather工具,自动提取城市参数为'Hyderabad',并返回结果。
没有工具加持的LLM无法获取实时天气数据,只能依赖训练数据中的知识。
GPT系列、Gemini等模型在数学推理基准测试上的表现持续提升。
技能包按开放标准写好之后,可被 Claude、GPT 或其他支持该标准的 Agent 加载,无需为每个平台重写。
还有 40 条时间轴事件
全部知识事实 (20)
GPT和BERT等大语言模型基于自监督学习范式
90%已验证Few-Shot提示的上下文学习(In-Context Learning)能力在GPT-3的论文中被首次系统性描述
90%已验证GPT-4、Claude、Gemini等大语言模型的核心工作原理是基于Transformer架构的下一个token预测
90%已验证Azure OpenAI Service为企业客户提供了在合规环境中调用GPT-4、DALL-E、Whisper等模型的能力
85%已验证WorkBuddy的界面与千问、豆包、GPT非常类似
80%已验证GPT是OpenAI基于Transformer架构开发的大型语言模型系列
80%已验证GPT系列使用tiktoken(基于BPE编码)进行Token化
80%已验证GPT系列采用Transformer的解码器(Decoder-only)变体,通过自回归方式逐Token预测下一个词
80%已验证VLM(视觉语言模型)通常由视觉编码器(如ViT)、语言模型和连接两者的投影层组成,代表性模型包括GPT-4V/4o、Claude 3.5、LLaVA系列和InternVL
80%已验证项目通过OpenRouter接入大语言模型,OpenRouter作为AI模型网关支持统一API调用多种大模型如GPT-4、Claude、Llama等
80%已验证2024年以来OpenAI多次下调GPT系列API价格
80%已验证Function Calling(函数调用)机制最早由OpenAI在2023年引入GPT系列模型
80%已验证当前所有主流大模型(GPT、BERT、LLaMA等)都基于Transformer架构
80%已验证GLM采用了独特的自回归填空预训练范式,与GPT的纯自回归和BERT的纯掩码语言模型都有所不同
80%已验证当前主流大语言模型(如GPT-4、Claude等)的上下文窗口已扩展到128K甚至更长的token
80%已验证Function Calling是OpenAI在2023年中期率先推出的特性,随后被各大模型厂商跟进
80%已验证GPT系列模型使用字节对编码(Byte Pair Encoding,BPE)算法将文本切分为Token
80%已验证在GPT系列模型中,一个中文汉字通常对应1到2个Token,一个英文单词大约对应1到1.5个Token
80%已验证GPT-4、Claude等大语言模型的代码生成能力源于训练数据中包含了GitHub上数以亿计的开源代码库
80%已验证Codex是基于GPT架构专门针对代码理解与生成任务进行微调的大型语言模型
80%