概念Streaming / 流式输出
流式响应处理
服务端逐token推送、客户端边接收边渲染的内容传输机制,可显著降低首字延迟
时间轴 (近 90 天)
10月16日
流式响应处理指 AI 模型以 Server-Sent Events 或分块传输方式逐字逐句返回内容,前端需维护可增量状态容器边接收边渲染。
待验证50%
服务端逐token推送、客户端边接收边渲染的内容传输机制,可显著降低首字延迟
流式响应处理指 AI 模型以 Server-Sent Events 或分块传输方式逐字逐句返回内容,前端需维护可增量状态容器边接收边渲染。