大模型入门：从原理到安全实战的第一课

在网络安全与信息安全领域，AI 大模型正在成为攻防演练中不可忽视的新变量。本文基于一场面向安全从业者的大模型基础课程整理，从大模型的本质原理出发，梳理其能力边界与局限，为后续用智能体开展企业攻防演练打下认知基础。

大模型究竟是什么：从聊天机器人到划时代产品

在 ChatGPT 出现之前，网络上早已存在各类聊天机器人，比如微软小冰。但那时候的使用体验存在明显硬伤：你发给它的每一句话都是独立的，发同样的内容会得到同样的回答，它不记得你之前说过什么，不支持我们今天熟知的多轮对话。

这背后的技术逻辑是「规则匹配」——机器人检测到你输入了什么内容，就从数据库里查询预设答案返回给你，答案是固定的。这与今天大模型的运行规则完全不同。

2022 年年底，基于 GPT-3.5 模型、采用 Transformer 架构的 ChatGPT 横空出世，成为一款划时代的产品。

Transformer 架构：大模型的基础骨架

Transformer 是 Google 在 2017 年论文《Attention Is All You Need》中提出的神经网络架构，其核心创新是自注意力（Self-Attention）机制，能让模型在处理序列数据时同时关注输入中所有位置的信息，而非像早期的 RNN/LSTM 那样逐步处理。这种并行化设计不仅大幅提升了训练效率，还让模型能够捕捉长距离的语义依赖关系——比如一段话开头提到的人名，在结尾被代词引用时，模型依然能准确关联。Transformer 已成为后续所有主流大模型（GPT、BERT、LLaMA 等）的基础骨架。

相比旧式聊天机器人，ChatGPT 有几个革命性的区别：

• 支持长上下文：你之前交代过的事情它全都记得，能够记住至少几十轮对话的细节。
• 理解模糊表达：哪怕你用了模棱两可的说法或代词，它也能听懂；你只需说「继续」，它就知道接下来要做什么。
• 对话自然流畅：交互体验真的像在和一个人对话。

刚推出时，只要解决了账户注册问题就能免费使用，给人一种「无所不知、无所不能」的感觉。

大模型的能力从何而来：海量数据与参数规模

这种强大的能力，依靠的是海量数据的训练。大模型爬取了全世界互联网的数据、大量资料，甚至将纸质资料扫描成数字资料用于训练，最终形成一个超大的参数规模。

参数可以粗略理解为模型「数据库的容量」，参数越大，代表它掌握的知识越多。以 Kimi 发布的 K3 大模型为例，其参数规模接近 3 万亿（2.8 万亿），体量已经非常庞大。

这些大模型系统具备通用理解与创作能力：聊天、写代码本质都是输出文字，此外还能生成图片、视频，帮你写歌、写小说、拍短剧等等。我们把这类系统统称为大模型系统。

中国的开源大模型阵营

所谓「开源」，就是把模型公开发布，任何人都可以将它部署到自己的服务器上运行。在商用付费模型领域，国内目前难以正面对抗海外巨头，但在开源模型领域相当能打。以下是几个代表性玩家：

• 阿里巴巴的通义千问系列
• 智谱的 GLM 系列
• 深度求索（DeepSeek）
• 月之暗面的 Kimi
• 小米的 MiMo
• 美团的龙猫（LongCat）

开源意味着只要你拥有一台配置极高的服务器（可能需花费几十万到上百万），就能自行运行这些大参数模型。

本地化部署的安全意义

这一点对安全实战尤其重要——本地化部署意味着敏感数据不出内网，是企业攻防演练中保障数据安全的关键前提。在企业攻防演练场景中，本地化部署开源模型具有多重安全优势：所有推理请求和数据均在内网流转，避免了敏感信息（如漏洞细节、内部网络拓扑、攻击路径）泄露给第三方 API 提供商的风险。此外，本地部署允许企业对模型进行微调（Fine-tuning），注入特定领域的安全知识库，如 CVE 漏洞库、ATT&CK 框架战术等，使模型更精准地辅助红队/蓝队作业。硬件方面，运行 70B 参数级别的模型通常需要 4-8 张 A100/H100 级别 GPU，成本在数十万到百万人民币之间。

为什么 AI 会「胡说八道」：理解大模型幻觉

大模型「一本正经地胡说八道」的现象被称为幻觉（Hallucination）。真实案例中，有人被坑了 600 元准备起诉时，豆包「承诺」帮他付款，用户把付款码发过去后豆包说好，用户竟真的信了；还有人用豆包去预约餐厅，但豆包根本没打通预约系统，自然无法完成。

要理解幻觉产生的原因，必须先理解大模型输出的本质。

关键概念：Token（词元）

Token（官方译为「词元」）是我们与大模型交互时，用来拆分文本的最小处理单元。需要注意的是，一个中文汉字并不等于一个 Token。英文通常以单词或空格为界拆分，中文则有自己的拆分逻辑。同样一段文本，可能被拆成几十个 Token。

大模型使用的分词算法通常是 BPE（Byte Pair Encoding，字节对编码）或其变体 SentencePiece。BPE 的核心思路是从单个字符出发，统计训练语料中最频繁出现的相邻字符对并合并，反复迭代直到达到预设词表大小。对中文而言，一个汉字通常被编码为 1.5-2 个 Token，而常见英文单词可能只占 1 个 Token。这直接影响了中文场景下上下文窗口的实际可用长度——同样 128K Token 的窗口，中文能容纳的字数远少于英文，安全从业者在设计提示词和工具调用时需要考虑这一差异。

输出的本质是概率预测

大模型输出的本质，是基于它训练时的海量文本，去预测「下一个最有可能出现的 Token」。你看到词一个一个蹦出来，正是模型在逐个预测输出：先输出一个 Token，再基于已有内容预测下一个最可能的 Token，以此类推。

一句话概括：大模型是一个概率预测机器。它并非真的无所不知，这正是幻觉产生的根源——当它一本正经地陈述时，内容不一定是事实。

幻觉产生的技术根源

从技术层面看，幻觉源于自回归生成的概率采样机制。模型在每一步输出时，会对词表中所有候选 Token 计算一个概率分布，然后根据 temperature（温度系数，控制随机性）、top-p（核采样，限制候选范围）等采样参数选取下一个 Token。当训练数据中某些知识出现频率较低，或问题涉及模型训练截止日期之后的事实时，模型仍会基于统计规律生成看似合理但实际错误的内容。此外，RLHF（基于人类反馈的强化学习）虽然让模型输出更符合人类偏好，但也可能强化模型「自信地给出答案」的倾向，即使答案是错误的。

完整流程是：用户输入内容 → 拆分成 Token 并编码 → 模型理解后逐个 Token 返回 → 组合成完整答案。

对安全从业者而言，这一认知至关重要：在攻防演练中依赖 AI 输出时，必须对结果保持批判性验证，不能盲目采信。

大模型三年来的关键演进

从 2022 年底至今，大模型发生了显著变化。如果你很早就用过 ChatGPT，会明显感受到以下进步：

• 幻觉大大减少：早期胡说八道现象非常多，如今已明显改善。
• 推理能力更强：能处理更复杂的逻辑任务。
• 上下文窗口更大：上下文指你和模型交互的 Token 总和，包括提示词、历史对话、上传的文件等。更大的上下文意味着能支撑更复杂的任务，不容易出现「上下文爆炸」而中断。
• 多模态能力：从最初只能文字聊天，到如今能生成图片、音频、视频，各家公司推出了不同模态的模型，生成质量大幅提升。

上下文窗口与智能体系统的关系

上下文窗口（Context Window）是智能体（Agent）系统设计中的核心约束。一个典型的安全攻防智能体需要在上下文中同时容纳：系统提示词（角色定义与行为规则）、工具描述（可调用的安全工具如 Nmap、Burp Suite 的接口说明）、历史对话记录、工具返回结果（如扫描报告）等。当这些信息总量超过上下文窗口限制时，模型会丢失早期关键信息，导致决策质量下降。目前主流模型已支持 128K-1M Token 的窗口，但实际有效利用率（即模型真正能「记住」并准确引用的内容比例）仍是活跃的研究课题，安全从业者在构建智能体时需要合理规划上下文的分配策略。

在成本方面，国内大模型的 API 调用性价比很高。虽然 DeepSeek 因并发压力过大而涨价，但相较于海外高端最新模型，国内平台的价格仍然相当低廉。

AI 已成为各行业的生产力工具

如今 AI 大模型早已不只是聊天工具，而是渗透进金融、医疗、交通、政务等各行各业的实时生产力工具。一个明显的趋势是：几乎所有软件都必须做一个 AI 入口，否则市场就可能被竞品抢占。

打开微信，搜索里有 AI 解答功能；支付宝下拉也有 AI 入口；百度网盘则能帮你提取文稿、处理照片和视频。所有软件都在向 AI 转型。

对于网络安全领域而言，这意味着 AI 能力既是防御方需要掌握的新武器，也是攻击方可能利用的新工具。理解大模型的原理、能力与局限，掌握智能体（Agent）与技能（Skill）的配置方法，正是安全从业者开展企业攻防演练的第一步基础功课。

智能体（Agent）：从对话到自主行动

智能体是在大模型基础上构建的自主决策系统，其核心范式是「感知-推理-行动」循环（如 ReAct 框架：Reasoning + Acting）。与单纯的对话不同，智能体能够调用外部工具（搜索引擎、代码执行器、API 接口等）、规划多步任务、并根据中间结果动态调整策略。在网络安全攻防中，红队智能体可自动化执行信息收集、漏洞扫描、漏洞利用链构建等任务；蓝队智能体则可实时分析告警日志、关联威胁情报、生成应急响应方案。理解大模型的概率本质和幻觉特性，是正确配置智能体「技能」和设计安全护栏（如输出验证、权限控制、人工审批节点）的前提。

小结

本文作为大模型基础的入门课，核心在于打通几个关键认知：大模型依靠海量数据训练形成庞大参数，本质是逐 Token 的概率预测，因而会产生幻觉；国内开源模型阵营实力不俗且 API 性价比高；三年来模型在幻觉控制、推理能力、上下文长度和多模态上持续进化。掌握这些底层原理，才能在后续用智能体开展安全实战时，既善用其能力，又警惕其边界。