概念Lazy Loading / Just-in-Time Retrieval
按需加载
一种上下文管理策略,不在开始时预加载全部资料,而在模型判断需要时通过搜索、读取文件或工具调用按需获取,借鉴软件工程惰性求值思想
时间轴 (近 90 天)
10月17日
按需加载(Lazy Loading / Just-in-Time Retrieval)是一种不预先将所有相关资料塞进窗口,而是在模型判断需要时再通过搜索、读取文件、调用工具等方式获取的上下文策略。
待验证50%
10月17日
按需加载的代价是增加交互轮次和延迟,因此需要在「预加载」与「按需拉取」之间做权衡。
待验证50%