#LLM采样参数

一个采样设置，如何让LLM的JSON输出合格率从75%暴跌到4%

实测三款小模型432次JSON生成：no_repeat_ngram_size设为3时，Llama 3.2 1B的schema合格率从75%暴跌到4%。解析阶梯能将解析成功率从29%提升到44%，但无法修复截断和无JSON的回复。附完整采样配置建议和七个立即可用的修复步骤。