Transformers

Hugging Face的Transformers库支持PyTorch、TensorFlow和JAX三大框架

Transformers库由Hugging Face维护，提供了数千个预训练模型的统一接口

Hugging Face是一家成立于2016年的AI公司，其开源库Transformers已成为NLP和大模型领域事实上的标准工具包

HuggingFace Transformers的Pipeline支持情感分析、文本生成、命名实体识别、文本填空、摘要生成、翻译和特征提取等任务类型

Pipeline API将NLP任务拆解为预处理、模型推理和后处理三个独立阶段

可以通过设置环境变量HF_HOME来自定义HuggingFace模型的存储路径

The mainstream AI inference stack (PyTorch, Transformers, vLLM) is built on Python and relies on extensive Python code and complex dependency chains

Transformers库默认将模型下载到C盘用户目录/.cache/huggingface下

Hugging Face的Transformers库、OpenAI的官方SDK、LangChain等几乎所有主流大模型工具都优先支持Python

Hugging Face的Transformers库提供数万个预训练模型的统一API接口，支持PyTorch、TensorFlow和JAX三大框架

Hugging Face Hub深度集成了Transformers、Diffusers、PEFT等主流开源库，用户只需一行代码即可加载任意模型

v5.19.0 引入了 token 分发实现，通过新的 ep_dispatch_experts 规划规则选择，并成为 Qwen3 MoE 和 Mellum 的默认方式，移除了 EP size 必须等于 TP size 的限制

v5.19.0 新增了逐层缓存配置能力，DynamicCache 和 StaticCache 会根据每层各自的配置进行初始化

v5.19.0 弃用了 SDPA 和 Flash Attention 实现中的 paged| 前缀，持续批处理时应直接设置常规注意力实现，eager 模式仍需保留 paged|eager 前缀

MoE 模型骨干网络输出 MoeModelOutputWithPast，模型头部输出 MoE 因果语言模型输出类

持续批处理在 v5.19.0 中变得更加设备无关，并新增了对 XPU 的支持

v5.19.0 将 CI 迁移到 Python 3.11，并修复了 DataCollatorForLanguageModeling 忽略 seed=0 的问题

v5.19.0 中所有计算路由 logits 的 MoE 模型行为被统一，设置 output_router_logits=True 时都会返回路由 logits，遵循 Qwen3-MoE 的模式

5.17.0版本将视觉旋转位置编码(2D/3D RoPE)统一到集中的RoPE频率计算模块modeling_rope_utils.py中，这是一项破坏性变更

5.17.0生成模块停止在每个解码步骤同步加速器，降低了每一步的额外开销，并修复了生成过程中无条件下载远程hub文件的问题