从AI到大模型:理清人工智能概念脉络与技术演进路径

很多刚接触AI的同学都有这样的困惑:人工智能、机器学习、深度学习、大模型、生成式AI,这些概念到底是什么关系?有人认为AI就是ChatGPT,有人觉得大模型是AI的全部,还有人认为机器学习、深度学习和大模型是几个完全独立的技术。
实际上,它们之间存在非常清晰的发展脉络。理清这些概念,是入门大模型应用开发的第一步。本文基于B站UP主金泽的大模型入门系列课程,梳理AI从诞生到今天的技术演进路径,并探讨普通人应如何切入这个领域。
人工智能:一个技术领域,而非某个产品
人工智能(AI)研究的核心,是让计算机或机器具备类似人类的学习、理解、推理和行动能力。这里有两个关键词:一是「机器」,AI研究的对象是计算机程序、软件系统或机器人,而非人类本身;二是「智能」。
关于「智能」的标准,不同人的看法差异极大。如果按科幻电影的标准——比如《钢铁侠》里的贾维斯,拥有独立意识、可以自主思考行动——那目前的技术确实远未达到。这种具备通用认知能力、能像人类一样理解和处理任何任务的AI,学术上称为通用人工智能(AGI,Artificial General Intelligence),是AI研究的终极目标之一。而当前我们所接触到的所有AI产品,包括ChatGPT,都属于窄人工智能(Narrow AI),即只能在特定领域或任务上表现优异。但如果换一个更实际的角度:只要机器能完成过去需要人类完成的任务,就可以认为它具备一定程度的智能。手机里的语音助手能理解指令、地图软件能规划路线,这些都是AI应用。
人工智能作为学科的正式诞生可追溯至1956年的达特茅斯会议,由约翰·麦卡锡、马文·明斯基等人提出。此后AI经历了多次"寒冬"与"春天"的交替——1970年代因专家系统局限性导致第一次AI寒冬,1980年代专家系统复兴后又因硬件瓶颈再次降温,直到2012年深度学习在ImageNet竞赛中大放异彩才开启当前的AI黄金时代。理解这段历史有助于认识到,AI并非突然出现的技术,而是经过近70年积累的综合学科成果。
因此,人工智能不是某个具体产品,而是一整个技术领域,涉及计算机科学、数学、统计学、语言学乃至神经科学。对于应用开发者而言,关注点应放在「AI能不能帮我解决真实问题」,而非纠结于它是否达到科幻级别的智能。
传统AI:深蓝背后的规则与搜索
AI发展史上有两个标志性节点。1997年,IBM的深蓝击败国际象棋世界冠军卡斯帕罗夫;2016年,AlphaGo击败围棋世界冠军李世石。

深蓝的意义在于它证明了:在规则明确的领域,机器可以通过强大的计算能力超越人类。但深蓝的实现方式与今天的大模型完全不同——它主要依靠搜索算法:提前分析大量可能出现的棋局,评估每一步走法之后对手如何应对、后续如何发展,再根据预设的评估规则选择胜率更高的方案。
具体来说,深蓝采用的核心技术是极小化极大算法(Minimax Algorithm)配合Alpha-Beta剪枝。极小化极大算法源自博弈论中的零和博弈概念——一方的收益必然是另一方的损失。算法假设双方都做出最优决策:己方选择最大化己方收益的走法(Max层),同时假设对手选择最小化己方收益的走法(Min层)。Alpha-Beta剪枝则是对这一暴力搜索的优化:当某个分支的结果已经确定不会优于已知的最优解时,直接剪掉该分支的后续搜索,在不影响最终结果的前提下大幅减少计算量。
在博弈树中,每个节点代表一个棋局状态,每条边代表一步走法。深蓝每秒能评估约2亿个棋局位置,通过专用硬件芯片并行计算来实现这一速度。它的评估函数由国际象棋大师参与设计,包含超过8000个特征参数,用于判断棋局的优劣。这种方法本质上是穷举式的——在有限的搜索深度内尽可能遍历所有可能的走法组合,然后选择对自己最有利的一步。
这种方式之所以能解决国际象棋,是因为象棋本身规则明确:棋子怎么走、每一步有什么影响,都可以被程序提前定义。国际象棋每一步的合法走法平均约35种,搜索深度达到12步左右即可达到大师水平。然而围棋每步合法走法约250种,搜索空间呈指数级膨胀,这也是为什么AlphaGo必须引入深度学习和蒙特卡洛树搜索(MCTS)等全新方法才能攻克围棋的原因。
现实世界的很多任务同样并没有明确规则,比如写一篇文章、分析复杂信息、判断一张图片是不是猫。传统AI「人类先定规则、机器再按规则计算」的逻辑遇到了瓶颈,这正是AI进入下一阶段的原因。
机器学习:让机器从数据中自己学习
机器学习的核心思路是:不再告诉机器所有答案,而是让它通过大量数据自己找到隐藏的规则。以识别猫狗为例,传统方法要人工总结「猫耳朵尖、狗体型大」等特征,但现实中猫狗的角度、环境千差万别,规则根本写不全。机器学习则直接喂给机器大量数据,让它自己归纳。
机器学习有三种经典范式:
监督学习
给机器提供带标签的数据——即「题目+答案」。就像学生学数学,先看大量例题和标准解答。图片A标注为猫、图片B标注为狗,模型不断学习图片与标签的关系,最终能对新图片做出正确预测。垃圾邮件识别、金融风控等系统大量使用监督学习。
从数学本质上看,监督学习是一个函数逼近问题。给定输入空间X和输出空间Y之间的一组映射样本,模型的目标是学习一个函数f,使得f(x)尽可能接近真实的y。这个过程通过最小化损失函数(Loss Function)来实现——损失函数衡量的是模型预测值与真实值之间的差距。常见的损失函数包括用于回归任务的均方误差(MSE)和用于分类任务的交叉熵(Cross Entropy)。模型通过梯度下降(Gradient Descent)算法不断调整内部参数,使损失函数逐步降低。
梯度下降的直觉理解是:想象站在山顶需要找到谷底,每一步都沿着当前位置最陡的下坡方向走。学习率(Learning Rate)控制每步的步幅——太大会越过谷底来回震荡,太小则收敛极慢。实践中常用的是随机梯度下降(SGD)及其变体如Adam优化器,它们不用全部数据而是用小批量数据估算梯度方向,在计算效率和收敛质量之间取得平衡。
现实中,监督学习面临的最大挑战之一是数据标注成本——例如ImageNet数据集包含1400多万张手工标注的图片,耗费了大量人力,这也催生了后来半监督学习和自监督学习等降低标注依赖的方法。
无监督学习
数据没有标注,也没有答案,让机器自己寻找规律。比如给模型大量用户数据(年龄、浏览习惯、购买记录),模型自行发现哪些用户行为接近、可能属于同一类。无监督学习中最经典的方法包括K-Means聚类、主成分分析(PCA)降维和自编码器(Autoencoder)。
大模型训练中也大量借鉴了这一思想:给模型海量文本,通过「预测缺失内容」的任务(如「今天晚上我要去____」)让模型自己学习语言规律。在大模型预训练中,自监督学习(Self-supervised Learning)是无监督学习的重要变体:模型通过预测被遮蔽的词(如BERT的Masked Language Model)或预测下一个词(如GPT的自回归生成)来学习语言表示,这些任务不需要人工标注,因为"标签"天然存在于文本本身中。Word2Vec和GloVe等词向量模型也是无监督学习的早期成果,它们发现了著名的语义关系如"国王-男人+女人≈女王"。
强化学习
核心是通过「试错+反馈」调整行为,类似小朋友学走路——摔倒就调整,成功就获得正向反馈。

在大模型领域,强化学习发挥了关键作用。ChatGPT完成基础训练后,模型虽然掌握了大量知识,但并不知道什么样的回答更符合用户需求、什么表达更安全。于是引入人工反馈进行优化,这就是常听到的RLHF(基于人类反馈的强化学习)——让模型不仅知道答案,还知道怎样更好地回答。
RLHF的完整训练流程包含三个阶段。第一阶段是监督微调(SFT):收集人工编写的高质量问答对,对预训练模型进行微调,使其初步具备对话能力。第二阶段是训练奖励模型(Reward Model):让模型对同一个问题生成多个回答,由人类标注员对这些回答进行排序,然后训练一个奖励模型来模拟人类的偏好判断。第三阶段是使用近端策略优化(PPO)算法,以奖励模型的打分作为反馈信号,进一步优化语言模型的输出策略。这一流程的关键洞察是:人类更擅长比较两个回答的好坏,而非从零撰写完美回答,因此用排序代替直接编写大幅降低了标注难度。后续DeepSeek等团队提出的GRPO等方法则进一步简化了这一流程,不再需要单独的奖励模型。
深度学习与Transformer:大模型的技术底座
随着图像识别、语音理解、自然语言处理等任务信息量急剧增大,传统机器学习遇到瓶颈,深度学习应运而生。它是机器学习的重要分支,核心技术是神经网络——一种受人脑神经连接方式启发的计算模型。
神经网络将大量计算节点连接起来,信息经过多层处理:识别图片时,第一层学习边缘和颜色,第二层学习形状结构,第三层学习物体组成。「深度」指的就是网络层数,层数越多,能学习到的信息层次越丰富。为了解决深层网络中的信息损失问题,研究者提出了残差连接(Residual Connection),让信息可以跨越部分网络层直接传递。
残差连接由何恺明等人在2015年的ResNet论文中提出,是深度学习发展史上的里程碑。在深层神经网络中,信息经过逐层传递后会逐渐衰减,反向传播时梯度也会变得极小(即梯度消失问题),导致浅层参数几乎无法更新。梯度消失的根源在于链式法则:反向传播时梯度是各层导数的连乘积,如果每层的导数值小于1(如Sigmoid激活函数的导数最大值仅为0.25),经过数十层连乘后梯度会指数级衰减趋近于零。除了残差连接外,研究者还通过ReLU激活函数(导数为0或1,避免了小数连乘)、Batch Normalization(规范化各层输入分布)、以及更好的参数初始化方法(如He初始化、Xavier初始化)来缓解这一问题。
残差连接的思路非常简洁:在每个网络层的输出上直接加上该层的输入,即输出 = F(x) + x。这意味着即使F(x)学习到的增量很小,信息仍然可以通过x这条「捷径」无损传递。这一设计使得训练超过100层甚至1000层的网络成为可能,也是后来Transformer架构能够稳定堆叠数十层的关键保障。

2017年,Google的八位研究者发表了论文《Attention Is All You Need》,提出了Transformer架构,成为现代大模型的关键基础。它解决的核心难题是:让机器理解人类语言中的上下文关系。
举例来说,「苹果发布了一款新手机,它受到了很多用户的欢迎」,这里的「它」指什么?人类结合上下文很容易判断,但传统计算机只把「它」看作字符。Transformer的**注意力机制(Attention)**让模型在处理某个词时,同时关注上下文中的相关信息——处理「它」时会关注到前面的「苹果手机」,从而建立准确的语义联系。
Transformer的完整架构由编码器(Encoder)和解码器(Decoder)两部分组成,但不同的大模型会选择不同的组合方式:GPT系列只使用解码器,BERT只使用编码器,T5则同时使用两者。注意力机制的具体实现是自注意力(Self-Attention):对输入序列中的每个词,计算它与所有其他词的关联度得分,生成查询(Query)、键(Key)、值(Value)三组向量,通过点积运算得到注意力权重。为了捕捉不同维度的语义关系,Transformer使用多头注意力(Multi-Head Attention)——将注意力计算拆分为多个并行的子空间,每个「头」关注不同类型的语义关联。
此外,由于Transformer不像RNN那样天然具备序列顺序信息,它引入了位置编码(Positional Encoding)来告知模型每个词在句子中的位置。原始论文使用正弦和余弦函数的不同频率来生成位置编码,这种设计有两个优势:一是可以处理训练时未见过的更长序列,二是相对位置信息可以通过三角函数的性质被模型学到。后续研究提出了旋转位置编码(RoPE,由苏剑林提出)和ALiBi等改进方案。RoPE被LLaMA、Qwen等主流开源模型广泛采用,它通过旋转矩阵将位置信息编码进注意力计算中,在支持长上下文扩展方面表现优异。
更重要的是,相比传统的循环神经网络(RNN)在处理长文本时容易「遗忘」前面的内容,Transformer可以通过注意力机制同时分析文本的多个部分,且所有位置的注意力可以同时计算,训练效率远超RNN。这让模型处理更长、更复杂的信息成为可能。研究者由此发现:不断扩大规模、增加训练数据、提升算力,模型能力会持续增强——这正是大模型爆发的基础。
生成式AI与大模型:从判断到创造
大语言模型(LLM)就是通过海量文本数据训练、能够理解并生成自然语言的AI,会根据你的问题生成对应答案。
回顾AI的发展会发现一个明显变化:过去的AI更多在做「分类与判断」(这是不是垃圾邮件、图片是不是猫),而近几年的生成式AI最大的突破是「从无到有地创造内容」——生成文章、代码、图片。以前让计算机写作文极其困难,因为写作需要理解主题、组织结构、选择表达;而现在的大模型只需一个简单需求就能生成完整内容。
ChatGPT的爆发并非偶然,背后有三重因素:数据的积累、算力的跃升(GPU集群等)、架构的突破(Transformer)。
在算力层面,大模型训练的计算需求极为惊人。以GPT-3为例,它拥有1750亿参数,训练消耗约3640 PetaFLOP/s-day的计算量。NVIDIA的A100和H100 GPU是当前大模型训练的主力硬件,训练GPT-3级别的模型通常需要数千块GPU组成的集群持续运行数周甚至数月。分布式训练技术是关键支撑,包括数据并行(将训练数据分发到多个GPU)、模型并行(将模型参数拆分到不同GPU)和流水线并行(将模型的不同层分配到不同GPU)。DeepSpeed(微软)和Megatron-LM(NVIDIA)是两个主流的分布式训练框架。ZeRO(Zero Redundancy Optimizer)技术通过将优化器状态、梯度和参数分片存储在不同GPU上,大幅降低了单卡内存需求。混合精度训练(FP16/BF16)则在几乎不损失模型质量的前提下将显存占用减半并加速计算。Flash Attention通过重新组织注意力计算的内存访问模式,将注意力机制的内存复杂度从O(n²)降低到O(n),使得处理更长上下文成为可能。
GPT-4的训练成本据估算超过1亿美元,这种巨大的资源门槛也是普通开发者更应该专注于应用层的重要原因。三者共同推动模型能力实现从量变到质变的突破。
目前全球主流大模型各有侧重:OpenAI的GPT系列覆盖场景最广;Anthropic的Claude更擅长长文本分析与逻辑推理,深受编程者喜爱;Google的Gemini是多模态模型,能处理文字、图片、声音、视频。国内则有阿里通义千问(开源)、百度文心系列以及DeepSeek等。
普通人如何切入:做应用,而非造模型
对于想进入AI领域的普通人,需要区分定位。如果目标是成为基础研究员、开发新的模型架构,需要深入数学、统计学、深度学习算法等多个学科,门槛极高。

但对绝大多数应用开发者而言,不是重新创造大模型,而是学会站在现有大模型的基础上开发实际应用——比如搭建企业知识库、开发智能客服、构建自动化Agent智能体。这就像汽车发明后,绝大多数人不需要研究发动机原理,而是学习如何驾驶来提升出行效率。
从实际测试各类大模型应用的感受来看,大模型目前最适合承担的并非完全替代某个岗位,而是作为高效助手,帮我们完成大量重复性工作,把人的时间释放到目标设计、决策判断和创造性工作上。
展望未来,大模型有三个明确发展方向:一是能力持续增强(推理、代码、多模态);二是走向行业细分(金融、法律、医疗等垂直大模型);三是Agent智能体——它不仅能回答问题,还能理解目标(感知)、制定计划(规划)、调用工具执行任务,形成智能化闭环。
Agent智能体是当前AI应用最前沿的形态,其核心架构通常包含四个模块:感知模块(接收用户指令和环境信息)、记忆模块(短期记忆存储当前对话上下文,长期记忆通过向量数据库存储历史信息)、规划模块(将复杂任务分解为可执行的子步骤,常用的方法包括ReAct、Chain-of-Thought等推理框架)、以及工具调用模块(通过API调用外部工具如搜索引擎、代码解释器、数据库查询等)。与简单的问答式AI不同,Agent能够形成「感知-思考-行动-观察」的闭环:它执行一步操作后会观察结果,根据结果调整下一步计划。
LangChain是目前最流行的Agent开发框架之一,它提供了标准化的接口来串联大模型、提示词模板、记忆系统和工具调用。RAG(检索增强生成)技术是Agent记忆模块的核心实现:将企业文档切分为文本块,通过Embedding模型转化为向量存储在向量数据库(如Pinecone、Weaviate、Milvus)中,查询时先检索相关文档片段再交给大模型生成回答。Function Calling功能允许大模型以结构化JSON格式输出工具调用指令,开发者定义可用工具的描述后,模型能自主判断何时调用哪个工具。
例如让它分析公司销售情况,它能自动读取数据、分析趋势、生成报告并提出建议。典型的Agent框架如LangChain、AutoGPT和MetaGPT已经构建了较为完整的开发生态。这种自主性使得Agent能够处理多步骤、跨系统的复杂任务,正是接下来几年AI应用最值得关注的形态。
核心要点
- AI是一个广泛的技术领域,而非某个具体产品;从1956年达特茅斯会议至今经历近70年发展
- 传统AI依赖人工定义规则和搜索算法,适用于规则明确的场景(如棋类博弈),但无法处理开放性问题
- 机器学习通过数据驱动让机器自主学习规律,三大范式(监督、无监督、强化学习)各有适用场景
- 深度学习是机器学习的重要分支,通过多层神经网络学习复杂特征表示,残差连接等技术突破了深层网络的训练瓶颈
- Transformer架构通过注意力机制解决了上下文理解难题,其并行计算特性使大规模训练成为可能
- 大模型的爆发建立在数据、算力(分布式GPU集群)、架构(Transformer)三大支柱之上
- 对普通开发者而言,核心路径是基于现有大模型开发应用(RAG、Agent、智能客服等),而非从零训练模型
- Agent智能体是AI应用的前沿形态,具备感知-记忆-规划-行动的完整闭环能力
相关推荐

HelpPeer:让AI智能体协作共享知识的公共网络平台
HelpPeer通过tell和lookup两个极简API,将AI智能体的自发协调能力引导至公共利益方向,构建智能体间的知识复用网络。本文解析其核心设计、供应链攻击防御应用场景及协调能力的双面性思考。

Cursor实战教程:AI一句话生成Python学生管理系统
详解Cursor编辑器结合Claude模型,从零生成Python学生管理系统的完整流程。涵盖三种对话模式选择、Agent自动编码、错误自动修复等核心操作,附实测效果与功能边界分析。

AI辅助渗透测试:从弱口令挖掘到SRC变现完整指南
详解AI辅助渗透测试中弱口令漏洞挖掘的完整流程,涵盖后台定位、搜索引擎高级语法、目录扫描等信息收集方法,以及如何利用Claude Code等AI工具提升漏洞挖掘效率并规范化SRC提交报告。