AI智能体能否取代安全工程师？从编程Agent看行业真相

引言：AI挖漏洞，安全工程师要失业了吗？

"AI都可以挖漏洞了，安全工程师是不是全部都要失业了？"这是网络安全从业者和学习者最近频繁提出的问题。随着大语言模型能力飞速提升，从DeepSeek到豆包，从ChatGPT到各类AI编程工具，人工智能似乎正在渗透到网络安全的每一个角落。

拥有多年安全攻防经验、近三年专注研究AI安全与AI辅助渗透的安全讲师吴亚（JK特朱江），在一场直播中系统性地拆解了这个问题。他的核心观点是：要回答AI能否取代安全工程师，首先必须搞清楚AI在网络安全行业的实际应用到底处于什么阶段——是理论阶段、初级应用阶段，还是已经大规模落地？

从聊天工具到AI智能体：能力的质变

聊天工具的天花板：只能动口，不能动手

豆包、DeepSeek、Kimi这类AI聊天工具，大多数人已经在日常使用了——查资料、写代码、画图、生成视频，甚至有人用它来看病咨询和情绪疏导。在编程场景中，你让豆包"用Python写一个网络端口扫描器"，它能快速生成可运行的代码，比起以前在GitHub上到处找代码片段、复制粘贴再调试，效率提升了一个量级。

但问题出在更复杂的场景。当你需要开发一个完整的系统（比如一个基于Spring Boot + MyBatis的招聘系统）时，豆包只能告诉你代码怎么写，你需要自己打开IDE、创建文件、粘贴代码、运行调试、遇到报错再回来问它、再粘贴修改……在两个工具之间反复切换，效率大打折扣。

这就是传统AI聊天工具最大的局限：它只能"动口"，不能"动手"。 它无法帮你新建文件、运行命令、连接数据库、打开浏览器——这些实际操作一个都做不了。从技术架构上看，当前主流AI聊天工具本质上是基于Transformer架构的大语言模型，通过API或Web界面与用户进行文本交互。它们的运行模式是"请求-响应"式的：用户输入一段文本，模型生成一段回复，交互结束。这种架构决定了它们只能在文本层面提供帮助，无法与用户的本地操作系统、文件系统或网络环境产生直接交互。即便模型具备强大的代码生成能力，生成的代码仍然需要人类手动复制到IDE中编译运行，形成了"AI生成-人类执行"的割裂工作流。

Agent智能体：AI长出了手脚

真正的变革来自于**Agent（智能体）**的出现。Agent概念源自人工智能研究中的"自主代理"理论，最早可追溯到1980年代分布式人工智能领域。但真正让Agent从学术概念走向工程落地的，是2023年以来大语言模型能力的突破。

这一工程化落地依赖于几项关键技术突破。2023年3月，OpenAI发布的Function Calling机制允许LLM在对话过程中主动调用预定义的外部函数，这是LLM从"只会说"到"能做事"的技术转折点。随后，LangChain等框架将工具调用、记忆管理、任务编排等能力封装为标准化组件，大幅降低了Agent的开发门槛。ReAct（Reasoning and Acting）范式则为Agent提供了"思考→行动→观察"的循环决策框架，使其能够根据环境反馈动态调整行为。当前最先进的Agent系统还引入了多Agent协作机制，多个专业化Agent分工合作完成复杂任务。主流AI Agent架构通常包含一个LLM作为"大脑"、一套工具集作为"手脚"、以及记忆模块作为"经验库"，三者协同才能实现真正的自主任务执行。

以字节跳动推出的Trae、GitHub Copilot、Cursor、Claude Code、腾讯CodeBuddy等为代表的AI编程智能体，与聊天工具有着本质区别。Trae是字节跳动于2025年初推出的AI编程智能体，定位为"AI原生IDE"，集成了代码生成、项目管理、调试运行等全流程能力。GitHub Copilot由GitHub与OpenAI联合开发，最初以代码补全工具形态出现，后逐步升级为支持多文件编辑和终端操作的Agent模式。Cursor则是基于VS Code二次开发的AI编程编辑器，以其强大的上下文理解能力著称。Claude Code是Anthropic推出的命令行AI编程工具，直接在终端中运行，擅长处理大型代码库。这些工具的共同特征是：它们不仅能生成代码，还能直接在用户的开发环境中执行操作，实现了从"建议"到"执行"的跨越。

吴亚老师在直播中现场演示了Trae的工作流程：只需要给它一段简单的需求描述，它就能自动分析任务、拆解步骤、创建项目目录结构、编写前端后端代码、配置数据库——整个过程完全自主完成，用户只需要最后"验收"即可。哪怕你从未学过任何编程语言，也可以通过AI Agent开发出一个完整的项目。

AI智能体的六大核心能力：

1. 自主感知：感知当前环境信息，如系统版本、磁盘文件、项目运行状态等
2. 规划：根据用户需求自动拆分任务步骤
3. 决策：根据感知到的情况决定下一步操作
4. 执行：运行系统命令、创建文件、启动项目等实际操作
5. 记忆：在整个任务周期内保持上下文记忆，而非像聊天工具那样每个会话独立
6. 工具调用：调用外部工具完成具体任务

正是这些能力的组合，让智能体从"只会说"进化到了"能做事"。

小龙虾与Hermes：AI智能体的新高度

为什么它们能在GitHub爆火？

最近在GitHub上爆火的两个项目——小龙虾（Crawfish）和Hermes（爱马仕），在短时间内获得了超过20万Star。GitHub Star数量是衡量开源项目受关注程度的重要指标之一，它类似于社交媒体的"点赞"，但在开发者社区中具有更强的信号意义。一个项目获得20万Star意味着它在全球开发者社区中引起了极大关注——作为对比，Linux内核在GitHub上约有18万Star，React约有23万Star。

不过Star数量并不等同于项目的技术成熟度或生产可用性，很多爆火项目可能处于早期实验阶段。这种现象在AI领域尤为突出：2023年以来，几乎每周都有新的AI Agent项目在GitHub上获得数万Star，但真正进入企业生产环境的寥寥无几。开源社区的这种"注意力经济"现象，反映了开发者群体对AI Agent这一方向的强烈期待，但开发者需要区分"技术热度"和"技术成熟度"。

它们相比普通编程智能体，有几个关键差异：

• 完全自主的任务拆分：符合智能体核心能力的完整实现
• 操作系统级权限：可以直接操作你的操作系统（因此建议安装在虚拟机中，避免安全风险）
• 24小时驻留运行：不像豆包那样依赖网页会话，它持续运行在你的电脑上，支持定时任务（如每天上午10点汇总热点新闻、每晚9点生成数据报表）
• 远程操控：通过微信、钉钉、飞书等配置API后，可以远程下发指令

其中Hermes还具备自动进化能力——运行时间越长，表现越强。不过目前它只有字符终端界面，没有图形化操作界面，对普通用户来说使用门槛较高。

一个值得思考的应用场景

你人在三亚沙滩上晒太阳，用微信给电脑上的小龙虾发一条指令，它就在你的电脑上自动完成任务。这不再是科幻，而是已经可以实现的现实——尽管产品成熟度还有待提升。

AI对网络安全行业的真实影响

AI幻觉问题：为什么不能盲目信任

吴亚老师特别强调了一个关键认知：大语言模型的本质是概率生成器，不是真正的无所不知。 AI幻觉（即"一本正经地胡说八道"）是不可避免的。

AI幻觉（Hallucination）的根本原因在于大语言模型的生成机制——它本质上是在做"下一个token的概率预测"，而非从一个确定性知识库中检索事实。当模型在训练数据中没有见过某个问题的准确答案时，它会基于统计规律"编造"一个看起来合理但实际错误的回答。在网络安全场景中，这种幻觉尤其危险：比如AI可能会编造一个不存在的CVE编号、给出错误的漏洞利用路径、或者误判一段安全代码存在漏洞。

目前业界主要通过RAG（Retrieval-Augmented Generation，检索增强生成）、知识图谱约束、以及人类反馈强化学习（RLHF）等手段来缓解幻觉问题。其中RAG是最主流的方案，其核心思路是在LLM生成回答之前，先从外部知识库中检索与问题相关的真实文档片段，将这些片段作为上下文注入到提示词中，从而约束模型基于真实信息生成回答。在网络安全场景中，RAG可以对接CVE漏洞数据库、NVD（国家漏洞数据库）、安全厂商的威胁情报库等权威数据源，显著降低AI编造漏洞信息的概率。知识图谱约束则通过结构化的实体关系网络来验证AI输出的逻辑一致性。RLHF则是在模型训练阶段引入人类专家的评判，让模型学会在不确定时表达"我不知道"而非编造答案。尽管如此，这些技术尚无法完全消除幻觉。

这意味着，AI可以是安全工程师的强力辅助工具，但无法完全替代人类的专业判断。

AI在安全领域的应用现状

从直播内容可以看出，AI在网络安全领域目前处于初级应用阶段向深度应用过渡的时期：

• 已经能做的：辅助编写安全工具、自动化脚本、辅助代码审计、解CTF题目、辅助渗透测试的信息收集和初步分析
• 还做不好的：复杂的逻辑推理、多步骤的攻击链构建、需要创造性思维的漏洞挖掘、对业务逻辑的深度理解
• 不应该做的：完全依赖AI进行安全决策，忽视人工验证

理解AI为何难以完全替代安全工程师，需要了解现代网络安全攻防的本质复杂性。一次完整的渗透测试通常遵循标准方法论（如PTES、OWASP Testing Guide），将攻击过程分为信息收集（OSINT、端口扫描、指纹识别）、威胁建模（识别攻击面和潜在入口）、漏洞分析（自动化扫描与手动验证结合）、漏洞利用（编写或适配exploit）、后渗透（权限提升、持久化、横向移动）、数据获取（敏感信息提取）、报告撰写等多个阶段。每个阶段之间存在复杂的依赖关系和反馈循环——例如，在漏洞利用阶段发现目标环境与预期不同时，需要回到信息收集阶段重新评估。这种动态决策能力正是当前AI Agent的薄弱环节。

更关键的是，很多高价值漏洞（如业务逻辑漏洞、条件竞争漏洞）需要对目标系统的业务流程有深入理解。业务逻辑漏洞是指由于应用程序的业务流程设计缺陷导致的安全问题，而非传统的技术性漏洞（如SQL注入、XSS）。典型案例包括：电商平台的价格篡改（修改前端传递的商品价格参数）、支付流程的订单替换（用低价订单的支付凭证完成高价订单）、优惠券的无限复用等。这类漏洞的发现需要测试者深入理解目标系统的业务规则和数据流转逻辑，而这些信息通常不会出现在代码注释或技术文档中。AI模型缺乏对特定业务场景的"常识性理解"，很难自主发现这类漏洞。条件竞争漏洞（Race Condition）则涉及多线程/多请求并发场景下的时序问题，需要精确的时间窗口控制和环境构造能力。此外，真实攻防环境中存在大量WAF绕过、流量检测规避等对抗性操作，需要创造性思维而非模式匹配。

对安全从业者的实用建议

吴亚老师的态度很明确：不是不需要学安全技术了，而是需要在掌握安全技术的基础上，学会用AI来放大自己的能力。 那些认为"只学AI挖漏洞就行"的想法是危险的——没有扎实的安全基础，你甚至无法判断AI给出的结果是否正确。

总结：AI是武器，不是替代者

从聊天工具到编程Agent，从普通智能体到小龙虾和Hermes，AI的能力边界在快速扩展。但至少在当前阶段，AI更像是安全工程师手中的一把新武器，而非取代安全工程师的终结者。

真正应该担心的，不是AI会取代你，而是会用AI的安全工程师会取代不会用AI的安全工程师。勤学苦练基础技术，同时拥抱AI工具，才是这个时代安全从业者的正确姿势。

最后，无论掌握了多么强大的技术，都请牢记：技术用于正途，网络安全法的红线不可触碰。