AI Agent
核心事实
最小权限原则（Principle of Least Privilege）主张任何主体只应被授予完成其任务所必需的最小权限
Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
AI开发经历四个阶段演进：单次调用大模型、Prompt Engineering、Agent与工具调用、Loop Engineering
时间轴 (近 90 天)
让数据接入型Agent区别于裸模型的关键属性是接地（grounding），即能在使用时把论断与外部信源核对。
有用户使用AI Agent处理视频素材时，Agent将节目《The Challenge Swe》的整季内容全部删除，当事人形容损失为数百天的工作。
当前许多AI Agent工具为了方便自动化执行任务，会要求较宽的文件系统权限，多数Agent运行环境没有做细粒度权限隔离。
在Agent场景中应用最小权限原则意味着一个整理素材的Agent理论上只需要读取目录结构与文件元数据的能力，而不需要删除等破坏性系统调用。
随着Agent被越来越多地用于文件管理、代码部署、数据处理等场景，类似的误操作风险正在从理论走向现实。
恢复点目标（RPO）指备份间隔导致的数据丢失窗口；如果备份每24小时一次而Agent的破坏发生在两次备份之间，丢失的就是这一整段窗口内的全部成果，因此Agent参与的工作流应将RPO压缩到分钟级。
在Agent上实现人在回路的可行做法包括按操作类型分级（读取、写入可全自动，删除、覆盖、批量移动强制暂停并请求确认）以及引入干运行模式先输出待删除清单再由用户核对。
企业级落地的关键在于先跑通最小可用流程，再逐步增加复杂度和工具调用范围。
企业级AI Agent的失败，很少是因为底层模型太弱，而是因为数据问题——没有人告诉Agent业务定义或答案存放位置。
在RAG和Agent系统中，Prompt不仅承载用户问题，还需嵌入检索到的上下文、工具调用格式和历史对话，提示工程的质量直接影响系统表现。
还有 40 条时间轴事件
全部知识事实 (20)
最小权限原则（Principle of Least Privilege）主张任何主体只应被授予完成其任务所必需的最小权限
90%已验证Mainstream Agent architectures typically use a large language model as the brain, combined with memory modules, planning modules, and tool interfaces to accomplish complex tasks
90%已验证AI开发经历四个阶段演进：单次调用大模型、Prompt Engineering、Agent与工具调用、Loop Engineering
90%已验证模型能力越强、越能调用外部工具，其潜在攻击面就越广，这是AI厂商面临的根本性两难困境
90%已验证Agent具备规划、工具调用、记忆与自主迭代的能力，区别于传统大语言模型的单次问答模式
90%已验证Skill是将专业能力、领域知识和操作规范打包成可复用单元，让Agent在恰当时机自动调用的模块化封装
90%已验证AI模型性能与数据投喂量正相关，企业为获得更精准的AI输出需不断输入业务细节
90%已验证智能代理层可完整记录每一次AI发起的操作（HTTP调用、命令执行、资源访问），形成可回溯的审计日志
90%已验证设计不良的AI Agent可能陷入目标→调用API→失败→重试→循环的闭环，在无人监控下持续消耗资源并累积费用
90%已验证在涉及事实准确性、逻辑严谨性和高风险决策的场景中，应将AI定位为工具而非可完全托付决策的自主智能体，人类监督与核验不可或缺
90%已验证AI Agent的误差具有语义合理性，每一步看似合理但组合起来偏离原始目标，使得基于日志的事后排查比传统系统复杂
90%已验证一个复杂的Agent任务可能需要数十次甚至上百次模型调用
90%已验证Prompt注入（Prompt Injection）是针对大语言模型应用的安全威胁，攻击者通过在输入中嵌入恶意指令试图覆盖系统原有行为约束
90%已验证AI编程工具正在经历从被动辅助（代码补全）到主动执行（自主智能体）的范式转变
90%已验证欧盟《人工智能法案》（AI Act）明确要求高风险AI系统必须具备人类监督和干预能力
90%已验证AI Agent的架构通常由四个模块构成：感知模块、记忆模块、规划模块和行动模块
90%已验证目前主流的AI Agent框架包括LangChain、AutoGen、CrewAI等
90%已验证AI Agent通过工具调用（Tool Use）机制与外部系统交互，包括执行代码、调用API、读写数据库等
90%已验证Agent的实现通常通过ReAct（Reasoning + Acting）框架来实现规划能力
90%已验证少读输出不等于少花钱，AI Agent的真正成本藏在上下文缓存、额外轮次和任务质量波动引发的反噬中，压缩工具无法压缩这些
85%