Context Window
大语言模型在单次推理中能处理的最大token数量，决定了模型能看到的历史信息范围，超出限制后早期内容将被截断，直接影响长对话系统设计
核心事实
时间轴 (近 90 天)
上下文窗口指模型单次请求能处理的最大 token 总量，包含输入 prompt 与模型输出。
上下文窗口决定模型在一次任务中能记住多少内容，当项目代码量超出上下文窗口时，AI可能忘记之前的设计决策产生前后矛盾的代码
上下文窗口越满，模型越倾向于遗忘靠前的信息，同时推理延迟和 API 调用成本随 token 数线性增长
记忆长度受大语言模型上下文窗口（Context Window）限制，拥有更大上下文窗口的高级付费模型能支持更强记忆能力
当今顶级模型的上下文窗口能容纳约一百万token，大致相当于八本小说的量
上下文压缩是一类将已有对话历史蒸馏为更精简表示的技术，通常由模型对早期内容生成摘要并替换原始消息列表
100 万 Token 输出上限指的是模型单次响应能生成内容的天花板，而非上下文窗口（输入）长度
上下文窗口（Context Window）是大模型每次能处理文本量的限制，早期模型只有几千个token，而Claude系列模型扩展到了数十万乃至更高量级
处理大型代码库时上下文会迅速膨胀，超出上下文窗口后代理会出现遗忘现象，建议将背景信息外置到 Notion 等工具让代理按需检索
上下文窗口不足时工具只能分批处理文件，跨文件的关联推断能力会显著下降
还有 26 条时间轴事件
全部知识事实 (20)
大语言模型的上下文窗口决定了模型在单次推理中能处理的信息量上限
90%已验证早期GPT-3的上下文窗口仅有4K Token，而现代模型已扩展至128K甚至更长
90%已验证Agent的记忆机制通常分为短期记忆和长期记忆两大类，长期记忆需借助向量数据库、关系型数据库、图数据库等外部持久化存储
80%已验证研究表明当上下文过长时，模型对中间部分信息的注意力会显著下降，即"Lost in the Middle"现象
80%已验证大语言模型本身是无状态的，记住历史对话依赖将历史对话文本拼接后一起送入模型
80%已验证大语言模型在长时间对话中会因上下文窗口限制而丢失早期信息
80%已验证上下文窗口是指模型在单次对话中能处理的最大文本量，早期模型仅有4K Token，现代模型已扩展至数十万Token
70%已验证当对话历史超出上下文窗口限制时，平台会采用截断、摘要压缩等工程手段来裁剪上下文，这个过程不可避免地丢失细节信息
70%已验证上下文窗口决定了模型在单次对话中能记住多少内容
65%已验证当前主流大语言模型上下文窗口已扩展到 128K 甚至更长
65%已验证解决大语言模型上下文窗口有限的主流方案包括向量数据库检索增强生成（RAG）、摘要压缩以及外部记忆存储
65%已验证上下文窗口（Context Window）指模型单次交互中能处理的最大token数量
65%已验证当前主流大语言模型上下文窗口已扩展至数十万乃至百万tokens，但超长上下文下模型对早期信息的注意力权重会显著衰减（中间丢失问题）
65%已验证现代Agent系统能够在单次会话中维持长达数万token的上下文窗口，并通过思维链推理机制对复杂实验方案进行多步骤逻辑分解
65%已验证上下文管理可通过滑动窗口、摘要压缩或分层记忆策略控制Token消耗
65%已验证大模型的API调用通常按Token数量计费，且每个模型都有上下文窗口（Context Window）的Token数量限制
65%已验证AI Agent在处理模糊问题时会进行大量探索性操作，导致token消耗呈指数级增长
65%已验证常见的上下文裁剪策略包括滑动窗口（保留最近N条消息）、摘要压缩（将旧消息总结为摘要）、重要性过滤（优先保留工具调用结果）
65%待验证大语言模型在处理任务时，会将读取到的文件内容纳入上下文窗口进行推理，一旦读取包含密钥的.env文件，密钥字符串可能被记录到日志或发送到模型服务商的API端点
90%待验证大语言模型的所有记忆都存储在当前的上下文窗口（Context Window）中，开启新Thread后这些信息全部清空
90%