概念流式传输 / sendMessageStream
Streaming
大语言模型逐token生成响应并实时推送给客户端的传输方式，显著降低首字延迟，改善聊天交互体验
时间轴 (近 90 天)
10月8日
流式输出（Streaming）通过缩短首字节时间可以显著改善用户感知体验，即使总生成时间不变
待验证50%
9月25日
流式传输允许服务端在生成过程中将 token 逐步推送至客户端，实现打字机般逐字出现效果，从而降低感知等待时间
待验证50%
9月15日
流式返回通过Server-Sent Events或WebSocket将模型token逐步推送给客户端，可改善感知延迟
待验证50%
9月10日
流式输出中断时，流式输出本身会中止是可以接受的，但整个对话历史必须完整保留，需要在流式传输的同时维护独立的会话存储机制
待验证50%
8月22日
流式响应的正确计费实现应只在流结束时根据最终usage字段一次性计费，或只累加每个chunk的增量Token数
待验证50%
全部知识事实 (5)
待验证
流式输出（Streaming）通过缩短首字节时间可以显著改善用户感知体验，即使总生成时间不变
50%待验证流式传输允许服务端在生成过程中将 token 逐步推送至客户端，实现打字机般逐字出现效果，从而降低感知等待时间
50%待验证流式返回通过Server-Sent Events或WebSocket将模型token逐步推送给客户端，可改善感知延迟
50%待验证流式输出中断时，流式输出本身会中止是可以接受的，但整个对话历史必须完整保留，需要在流式传输的同时维护独立的会话存储机制
50%待验证流式响应的正确计费实现应只在流结束时根据最终usage字段一次性计费，或只累加每个chunk的增量Token数
50%