[控场AI]
产品HuggingFace Transformers

Transformers

Hugging Face开源的深度学习模型库,提供预训练模型的加载、微调和推理接口,是NLP领域最广泛使用的工具库之一

核心事实

时间轴 (近 90 天)

10月4日

5.17.0版本将视觉旋转位置编码(2D/3D RoPE)统一到集中的RoPE频率计算模块modeling_rope_utils.py中,这是一项破坏性变更

待验证50%
10月4日

Hugging Face Transformers 库发布了 5.17.0 版本,新增6款模型并统一重构了视觉RoPE

待验证50%
10月4日

5.17.0生成模块停止在每个解码步骤同步加速器,降低了每一步的额外开销,并修复了生成过程中无条件下载远程hub文件的问题

待验证50%
10月4日

5.18.0 版本统一了 device_mesh 初始化以支持流水线并行加张量并行推理,并通过二维(fsdp, tp)device mesh 实现 FSDP2 与专家并行的结合

待验证50%
10月4日

Hugging Face Transformers 库发布了 5.18.0 版本,由维护者 vasqu 推送,包含四款全新模型架构、六项破坏性改动以及大量错误修复和性能优化

待验证50%
10月4日

5.18.0 引入了六项破坏性改动,包括 ROCm 平台 gpt-oss 将 FA3 路由到 aiter-flash-attn、DETR 图像处理加速、重映射 indexers 的 layer_type、修复 vLLM 后端视频输入 token 计数、DINO 系列模型现代化改造以及 Kernels 版本升级

待验证50%
10月4日

对于生产团队,升级 5.18.0 的决策关键在于权衡新特性收益与破坏性改动的迁移成本

待验证50%
10月4日

5.18.0 中 GGUF 集成新增了对 MoE 的支持,compressed-tensors 的 FP8 kernel 现可在 MPS(torch ≥ 2.15)上运行,并引入了 OpenVINO HF 导出器,补充了 XPU 和 MUSA 平台的 Flash Attention 支持

待验证50%
10月3日

添加版本上限约束可将兼容性范围锁定在经过验证的区间内,是常见的依赖管理实践

待验证50%
10月3日

如果其他依赖项或业务代码需要更高版本的 Transformers,该上限约束可能带来冲突

待验证50%

还有 18 条时间轴事件

全部知识事实 (20)

已验证

Hugging Face的Transformers库支持PyTorch、TensorFlow和JAX三大框架

90%
已验证

Transformers库由Hugging Face维护,提供了数千个预训练模型的统一接口

80%
已验证

Hugging Face是一家成立于2016年的AI公司,其开源库Transformers已成为NLP和大模型领域事实上的标准工具包

80%
待验证

HuggingFace Transformers的Pipeline支持情感分析、文本生成、命名实体识别、文本填空、摘要生成、翻译和特征提取等任务类型

95%
待验证

Pipeline API将NLP任务拆解为预处理、模型推理和后处理三个独立阶段

95%
待验证

可以通过设置环境变量HF_HOME来自定义HuggingFace模型的存储路径

95%
待验证

The mainstream AI inference stack (PyTorch, Transformers, vLLM) is built on Python and relies on extensive Python code and complex dependency chains

90%
待验证

Transformers库默认将模型下载到C盘用户目录/.cache/huggingface下

90%
待验证

Hugging Face的Transformers库、OpenAI的官方SDK、LangChain等几乎所有主流大模型工具都优先支持Python

90%
待验证

Hugging Face的Transformers库提供数万个预训练模型的统一API接口,支持PyTorch、TensorFlow和JAX三大框架

70%
待验证

Hugging Face Hub深度集成了Transformers、Diffusers、PEFT等主流开源库,用户只需一行代码即可加载任意模型

70%
待验证

5.17.0生成模块停止在每个解码步骤同步加速器,降低了每一步的额外开销,并修复了生成过程中无条件下载远程hub文件的问题

50%
待验证

5.17.0版本将视觉旋转位置编码(2D/3D RoPE)统一到集中的RoPE频率计算模块modeling_rope_utils.py中,这是一项破坏性变更

50%
待验证

5.18.0 版本统一了 device_mesh 初始化以支持流水线并行加张量并行推理,并通过二维(fsdp, tp)device mesh 实现 FSDP2 与专家并行的结合

50%
待验证

对于生产团队,升级 5.18.0 的决策关键在于权衡新特性收益与破坏性改动的迁移成本

50%
待验证

5.18.0 中 GGUF 集成新增了对 MoE 的支持,compressed-tensors 的 FP8 kernel 现可在 MPS(torch ≥ 2.15)上运行,并引入了 OpenVINO HF 导出器,补充了 XPU 和 MUSA 平台的 Flash Attention 支持

50%
待验证

5.18.0 引入了六项破坏性改动,包括 ROCm 平台 gpt-oss 将 FA3 路由到 aiter-flash-attn、DETR 图像处理加速、重映射 indexers 的 layer_type、修复 vLLM 后端视频输入 token 计数、DINO 系列模型现代化改造以及 Kernels 版本升级

50%
待验证

v0.31.0 的核心改动是在依赖项中为 Transformers 库添加了版本上限约束

50%
待验证

添加版本上限约束可将兼容性范围锁定在经过验证的区间内,是常见的依赖管理实践

50%
待验证

如果其他依赖项或业务代码需要更高版本的 Transformers,该上限约束可能带来冲突

50%

来源文章