上下文工程
通过主动提供和组织上下文信息(如项目规范、领域知识、工具配置)来优化AI模型输出的工程实践,是提升AI编程助手效果的关键方法
Core Facts
Timeline (last 90 days)
将设计文件作为上下文提供是一种业内常见的 LLM 应用做法,称为上下文工程或 few-shot 示例引导,原理是模型会受输入中已有模式的影响。
提示缓存、记忆、压缩、检索是四个常被混淆但解决不同问题的机制:提示缓存复用输入处理、记忆跨交互保存信息、压缩减少携带的上下文、检索选择相关信息
Andrej Karpathy将上下文工程描述为'用恰到好处的信息填充上下文窗口以服务下一步的精妙艺术与科学'
可靠性、安全性、成本和平台碎片化问题最终都可追溯到上下文
可以用类比理解:LLM是CPU负责推理,上下文窗口是RAM作为工作记忆,上下文工程是操作系统决定什么被加载、何时加载、以何种格式加载
上下文工程是提示词工程的自然延伸和升级,提示词只是上下文的一部分
将关键指令放在显眼位置、用清晰分隔符区分内容类型、为检索材料标注来源,能帮助模型更准确地理解和使用上下文
上下文除提示词外还包括系统指令、检索到的外部知识、历史对话、工具返回结果、示例样本等多种成分
上下文工程强调模型只是一个推理引擎,其产出高度依赖于推理窗口中放入的信息内容、结构和时机
AGENTS.md 是上下文工程最轻量的实现形式之一,无需额外基础设施,用纯文本文件将项目级知识持久化
34 more timeline events
All Facts (20)
大多数 AI 编程智能体无法有效完成复杂任务的主要原因是上下文缺失,而非模型能力不足
80%Verified上下文工程(Context Engineering)是一种新范式,为 AI 提供完整的体系化上下文,包括项目文档、代码示例、编码规则、开发模式和验证机制
80%Verified上下文工程是指系统性地设计、管理和优化输入给大语言模型的上下文信息的工程实践,与提示词工程侧重于单次交互的措辞优化不同
65%Unverified吴恩达认为过去几年行业注意力集中在提示工程和上下文工程上,但对于需要持续运行数天甚至数周的Agent来说这远远不够
90%Unverified在真实上下文工程场景中,上下文散布在多个来源:本地文件系统、数据库、Web、长期记忆等,每种上下文源需要对应的搜索工具
90%UnverifiedAGENTS.md的实践与'上下文工程'(Context Engineering)的理念密切相关,代表了从提示工程到上下文工程的演进
85%Unverified上下文工程的重心已从'如何塞进更多信息'转变为'如何确保正确的信息出现在正确的位置'
80%Unverified在AI编程中,提前设计好数据结构并提供JSON文档给AI(即'上下文工程')能大幅提升代码生成的准确度,这是区分AI编程新手与熟练用户的核心能力差异之一
75%Unverified行业正在经历从'模型中心'到'系统中心'的范式转移,单纯提升模型参数和训练数据的边际收益在递减
70%Unverified上下文工程被定义为一种超越提示工程的系统化方法论,提示工程是上下文工程的一个子集
60%Unverified上下文工程是在RAG之上的进一步演进,不仅关注信息的召回率,更关注注入上下文的结构质量、可信度层级和冲突标记
60%Unverified上下文工程使得零编程基础的用户也能开发复杂项目
60%Unverified将设计文件作为上下文提供是一种业内常见的 LLM 应用做法,称为上下文工程或 few-shot 示例引导,原理是模型会受输入中已有模式的影响。
50%Unverified提示缓存、记忆、压缩、检索是四个常被混淆但解决不同问题的机制:提示缓存复用输入处理、记忆跨交互保存信息、压缩减少携带的上下文、检索选择相关信息
50%UnverifiedAndrej Karpathy将上下文工程描述为'用恰到好处的信息填充上下文窗口以服务下一步的精妙艺术与科学'
50%Unverified可以用类比理解:LLM是CPU负责推理,上下文窗口是RAM作为工作记忆,上下文工程是操作系统决定什么被加载、何时加载、以何种格式加载
50%Unverified可靠性、安全性、成本和平台碎片化问题最终都可追溯到上下文
50%Unverified将关键指令放在显眼位置、用清晰分隔符区分内容类型、为检索材料标注来源,能帮助模型更准确地理解和使用上下文
50%Unverified上下文工程强调模型只是一个推理引擎,其产出高度依赖于推理窗口中放入的信息内容、结构和时机
50%Unverified上下文工程是提示词工程的自然延伸和升级,提示词只是上下文的一部分
50%