待验证50% 置信事实精确时间
在流式场景中,vLLM逐token返回结果,解析器必须在数据不完整时进行增量判断,若过早触发结束信号或未能缓冲跨chunk的JSON片段,会导致参数丢失。
1
来源数
50%
置信度
长期有效
时效性
2026/10/26
首次发现
来源
涉及实体
相关事实
待验证流式LLM API中,部分中转站会静默插入 data: [DONE] 提前结束,或将 {"error": "rate limit exceeded"} 等错误信息塞进JSON伪装成模型回答。76% 相似待验证一旦最终JSON解析失败,后续的语义检查会被直接跳过,这是'任务完成却得零分'现象的技术根源74% 相似待验证仅凭 json.loads 解析通过不能判断模型响应是否被截断,因为被截断的响应若恰好闭合括号仍可解析成功。74% 相似待验证Qwen3.8-27B偶尔会返回缺少闭合括号的JSON截断(如`{"findings":[]`),在40个审查回答中出现5次,仅出现在空回答上,与MTP和presence penalty无关,是模型自身提前终止。72% 相似待验证在AI驱动的字幕生成流水线中,模型输出的JSON破损(缺少引号、尾逗号、括号不匹配)会导致下游解析失败,字幕数据丢失或错位,且出现频率不低。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1099655API
curl https://kongchang.com/api/v1/knowledge/claims/1099655MCP
get_claim(id=1099655)