XGrammar
专注于结构化生成的高效约束解码引擎，通过有限状态机或上下文无关文法在解码阶段施加语法约束，支持JSON schema合规输出，将部分掩码计算异步提前至CPU完成以降低性能损耗
Timeline (last 90 days)
XGrammar是一个专注于高效、灵活结构化生成的库，用于约束大语言模型输出符合预定义schema的内容
v0.34.4-rc1将mlxrunner中的XGrammar库升级至0.2.7版本
XGrammar的核心工作原理是将JSON Schema等格式规范转换为有限状态自动机（FSM）或上下文无关文法（CFG），在模型生成每个token时对候选词汇表进行掩码过滤
XGrammar 0.2.7改进了对短数组（short arrays）场景的支持
升级到XGrammar 0.2.7后修复了针对类型化字典值（typed dictionary values）的处理问题
XGrammar相比早期同类库（如Outlines、lm-format-enforcer）在对复杂schema的编译速度和运行时推理开销上更低
XGrammar 是专注于语法约束生成的库，能将 JSON Schema 等规范编译为 token 掩码，在解码时实时屏蔽不合法候选 token
v0.34.4 更新了 llama.cpp、MLX 和 XGrammar 等核心底层依赖
vLLM团队公开致谢XGrammar团队，双方就在vLLM上部署DeepSeek-v4.1时实现可靠且高性能的工具调用展开了合作
vLLM与XGrammar的集成方案能够覆盖DeepSeek-v4.1这类MoE模型，具备一定的架构通用性
3 more timeline events
All Facts (12)
XGrammar相比早期同类库（如Outlines、lm-format-enforcer）在对复杂schema的编译速度和运行时推理开销上更低
50%Unverifiedv0.34.4-rc1将mlxrunner中的XGrammar库升级至0.2.7版本
50%UnverifiedXGrammar是一个专注于高效、灵活结构化生成的库，用于约束大语言模型输出符合预定义schema的内容
50%Unverified升级到XGrammar 0.2.7后修复了针对类型化字典值（typed dictionary values）的处理问题
50%UnverifiedXGrammar 0.2.7改进了对短数组（short arrays）场景的支持
50%UnverifiedXGrammar的核心工作原理是将JSON Schema等格式规范转换为有限状态自动机（FSM）或上下文无关文法（CFG），在模型生成每个token时对候选词汇表进行掩码过滤
50%Unverifiedv0.34.4 更新了 llama.cpp、MLX 和 XGrammar 等核心底层依赖
50%UnverifiedXGrammar 是专注于语法约束生成的库，能将 JSON Schema 等规范编译为 token 掩码，在解码时实时屏蔽不合法候选 token
50%UnverifiedXGrammar是一个专注于结构化生成的高效引擎，通过在解码阶段对输出token施加语法约束，确保生成结果符合预定义的格式规范
50%UnverifiedXGrammar将部分掩码计算提前到CPU上异步完成，并对常见JSON结构进行缓存，从而在GPU执行解码时几乎不引入额外等待
50%Unverified通过集成XGrammar的语法约束能力，vLLM能够保证DeepSeek-v4.1在生成工具调用时输出结构合法，显著降低出错率
50%UnverifiedvLLM与XGrammar的集成方案能够覆盖DeepSeek-v4.1这类MoE模型，具备一定的架构通用性
50%