混合架构
将检索与长上下文生成结合使用的系统设计：先用检索从大规模语料中粗筛出少量高相关片段，再送入长上下文模型完成整合与推理，兼顾成本、延迟与跨文档综合能力。
时间轴 (近 90 天)
部分企业开始转向私有化部署或混合架构，是出于对数据主权的主动选择，而非对性能的妥协。
混合架构通过让多数层走廉价路径、少量层保留全注意力，在效率与表达能力之间做权衡。
将本地部署定位为数据敏感型任务的专用通道，通用问答和创意类任务继续走API的混合架构，往往比二选一更经济。
未来可将分阶段训练思路扩展到更复杂混合架构设计，如动态调整不同层的更新节奏或引入更精细的归因分析来指导训练策略。
混合架构结合线性时间循环与softmax注意力，交替堆叠以兼得高效与精确检索能力。
作者认为混合架构（敏感高频任务走本地小模型，复杂推理走云API）不是妥协，而是正确的架构。
端侧模型的能力上限仍受硬件制约，复杂推理任务可能仍需在本地小模型与云端大模型之间做动态分流，混合架构正在成为主流选择。
对于开发者，一个务实的策略是混合架构：敏感数据本地处理，复杂推理调用云端。
实践中常见的混合架构是：先用长上下文生成文档地图或摘要索引，再用RAG按问题定位具体片段，最后把检索结果与地图一起交给模型综合，并要求输出引用（chunk ID）。
混合架构的关键实践是：公开 filings 走托管推理，客户和内部文档走自托管推理，通过一个路由层按文档类别分配路径，两条路径使用相同的模型、模型 ID 和客户端代码。
还有 11 条时间轴事件
全部知识事实 (20)
部分企业开始转向私有化部署或混合架构，是出于对数据主权的主动选择，而非对性能的妥协。
50%待验证混合架构通过让多数层走廉价路径、少量层保留全注意力，在效率与表达能力之间做权衡。
50%待验证将本地部署定位为数据敏感型任务的专用通道，通用问答和创意类任务继续走API的混合架构，往往比二选一更经济。
50%待验证混合架构结合线性时间循环与softmax注意力，交替堆叠以兼得高效与精确检索能力。
50%待验证作者认为混合架构（敏感高频任务走本地小模型，复杂推理走云API）不是妥协，而是正确的架构。
50%待验证端侧模型的能力上限仍受硬件制约，复杂推理任务可能仍需在本地小模型与云端大模型之间做动态分流，混合架构正在成为主流选择。
50%待验证对于开发者，一个务实的策略是混合架构：敏感数据本地处理，复杂推理调用云端。
50%待验证实践中常见的混合架构是：先用长上下文生成文档地图或摘要索引，再用RAG按问题定位具体片段，最后把检索结果与地图一起交给模型综合，并要求输出引用（chunk ID）。
50%待验证混合架构的关键实践是：公开 filings 走托管推理，客户和内部文档走自托管推理，通过一个路由层按文档类别分配路径，两条路径使用相同的模型、模型 ID 和客户端代码。
50%待验证混合架构在需要精确匹配的层使用注意力，在需要高效序列建模的层使用SSM，以在推理速度与模型能力之间取得权衡
50%待验证合理的混合架构是用商用API承担规划大脑，用本地模型处理高频、低风险、涉及隐私的批量文本任务
50%待验证某些高难度推理任务可能仍需保留闭源模型，而大量常规任务可以切换到开源
50%待验证混合架构在工程实现上通常借助路由层实现，根据请求任务类型、复杂度或置信度动态分配至闭源或开源端点
50%待验证混合架构中，本地模型先处理私密文件并脱敏，再交由云端模型做高难度推理，重要内容发出前由人工审核
50%待验证混合架构中推理时可只运行轻量分类头而无需每次调用完整大模型，从而降低延迟和成本
50%待验证端到端神经网络与检索增强（RAG）、符号推理等经典方法的结合正在释放超越单一架构的潜力
50%待验证许多Agent平台采用容器（如Docker）与虚拟机结合的混合架构，用容器实现快速部署和依赖管理，用虚拟机提供更强的安全边界
50%待验证LLM做决策、代码做执行的混合架构是业界推荐的Agent设计模式，将数值计算等确定性任务交给代码，将自然语言理解等任务交给LLM
50%待验证针对真实世界工程图纸的可靠解析，混合架构（Hybrid Pipeline）是当前最务实的选择，包括来源判断、元素定位、分区识别、关系推理，并对关键GD&T信息保留人工复核
50%待验证混合架构设计可以让本地规则引擎处理高频操作，将LLM作为兜底方案处理复杂请求
50%