概念
continuationToken
Google Generate Content API 新增的分块响应参数,允许以 64k 为单位分块读取模型输出,用于过渡性支持 Long Decode 超长输出能力。
时间轴 (近 90 天)
10月14日
Google 的 Generate Content API 新增了 continuationToken 参数,允许以 64k 为单位分块读取响应。
待验证50%
10月14日
LangChainJS 将先支持 continuationToken 方式,但维护者将其定位为临时过渡方案。
待验证50%