开源的大模型约束解码框架,支持通过JSON Schema等格式对模型输出进行结构化约束
约束解码技术生态包括OpenAI的JSON Mode、Outlines库、LMQL、Microsoft的Guidance库、SGLang和Instructor等工具
约束解码是一种在LLM推理阶段强制输出符合特定语法或模式的技术,典型实现包括OpenAI的JSON Mode、Outlines库和LMQL