[控场AI]
概念Lazy Loading / Just-in-Time Retrieval

按需加载

一种上下文管理策略,不在开始时预加载全部资料,而在模型判断需要时通过搜索、读取文件或工具调用按需获取,借鉴软件工程惰性求值思想

时间轴 (近 90 天)

10月17日

按需加载(Lazy Loading / Just-in-Time Retrieval)是一种不预先将所有相关资料塞进窗口,而是在模型判断需要时再通过搜索、读取文件、调用工具等方式获取的上下文策略。

待验证50%
10月17日

按需加载的代价是增加交互轮次和延迟,因此需要在「预加载」与「按需拉取」之间做权衡。

待验证50%

全部知识事实 (2)

来源文章