概念中途对话
mid-conversation
一种模型能力,指在一次已经展开的多轮会话中间插入新的系统指令或上下文,而非只能在对话开头设定 system prompt,使开发者能在交互过程中动态调整模型行为。
时间轴 (近 90 天)
10月12日
「中途对话」指在一次已经展开的多轮会话中间插入新的系统指令或上下文,而不是只能在对话开头设定 system prompt。
待验证50%
10月12日
对话中途插话面临流式生成与消息队列的协调问题:新到达的用户输入要么被缓存到下一轮请求,要么通过中断/追加机制注入当前上下文。
待验证50%
10月12日
不同厂商 API 对中途追加输入的支持不一:部分接口只接受一次完整的消息列表,部分接口提供可中断或可追加的语义。
待验证50%
10月12日
本次 1.7.1 发布说明中未附带对话中途支持能力的详细行为文档,实际项目启用前建议针对目标模型做验证。
待验证50%