[控场AI]
产品HuggingFace Transformers

Transformers

Hugging Face开源的深度学习模型库,提供预训练模型的加载、微调和推理接口,是NLP领域最广泛使用的工具库之一

核心事实

时间轴 (近 90 天)

10月17日

原始Qwen3.8-Flash-Next权重支持vLLM、SGLang、Transformers和TokenSpeed,且SGLang在发布当天就有day-0支持。

待验证50%
10月16日

Omni 在单独镜像中使用 Transformers 5.10.2 和 CPU 优先加载。

待验证50%
10月16日

Muse Spark Open支持SGLang、vLLM、TensorRT-LLM、Transformers、MLX、llama.cpp和Unsloth等运行时。

待验证60%
10月15日

Hugging Face Transformers 库发布了 v5.20.0 版本,新增八个模型并支持导出时量化。

待验证50%
10月15日

FSDP × TP 的模型与优化器 checkpoint 现在可以跨不同的并行配置保存和加载,expert-parallel dispatch、张量并行计划、静态缓存 generate() 以及缓存分配器的字节计数均得到修复。

待验证50%
10月15日

Transformers 导出器现在在 Dynamo、ONNX、OpenVINO 和 ExecuTorch 上支持导出时直接量化,新的统一量化 API 整合了 PT2E、ONNX Runtime 和 NNCF 量化器,支持静态量化、动态量化以及权重压缩(INT8/INT4),并提供可配置的校准流程。

待验证50%
10月15日

InclusionAI 的 Ling 3.0 Flash 采用混合 MoE 设计,解码器将五个 Kimi Delta Attention(KDA)层与一个 Multi-head Latent Attention(MLA)层分组,已在 Transformers 中原生支持,加载类为 BailingHybridForCausalLM。

待验证50%
10月14日

PyTorch 是底层的深度学习框架,负责张量计算、自动求导和模型推理;Transformers 是 Hugging Face 建立在 PyTorch 之上的高层库,封装了模型加载、分词、图像预处理和生成接口。

待验证50%
10月14日

Bird Buddy AI 使用 Python 和 Streamlit 构建,图像分析部分调用 Hugging Face 上的 SmolVLM-500M-Instruct 模型,通过 PyTorch 和 Transformers 运行。

待验证50%
10月13日

目前主流的开放权重视觉/文本模型包括Meta的Llama系列、Mistral、Qwen-VL、LLaVA以及专攻文档理解的Donut、LayoutLMv3;其权重可通过llama.cpp、Ollama、Transformers等运行时加载,断网即可工作。

待验证50%

还有 39 条时间轴事件

全部知识事实 (20)

已验证

Hugging Face的Transformers库支持PyTorch、TensorFlow和JAX三大框架

90%
已验证

Transformers库由Hugging Face维护,提供了数千个预训练模型的统一接口

80%
已验证

Hugging Face是一家成立于2016年的AI公司,其开源库Transformers已成为NLP和大模型领域事实上的标准工具包

80%
待验证

HuggingFace Transformers的Pipeline支持情感分析、文本生成、命名实体识别、文本填空、摘要生成、翻译和特征提取等任务类型

95%
待验证

Pipeline API将NLP任务拆解为预处理、模型推理和后处理三个独立阶段

95%
待验证

可以通过设置环境变量HF_HOME来自定义HuggingFace模型的存储路径

95%
待验证

The mainstream AI inference stack (PyTorch, Transformers, vLLM) is built on Python and relies on extensive Python code and complex dependency chains

90%
待验证

Transformers库默认将模型下载到C盘用户目录/.cache/huggingface下

90%
待验证

Hugging Face的Transformers库、OpenAI的官方SDK、LangChain等几乎所有主流大模型工具都优先支持Python

90%
待验证

Hugging Face的Transformers库提供数万个预训练模型的统一API接口,支持PyTorch、TensorFlow和JAX三大框架

70%
待验证

Hugging Face Hub深度集成了Transformers、Diffusers、PEFT等主流开源库,用户只需一行代码即可加载任意模型

70%
待验证

Muse Spark Open支持SGLang、vLLM、TensorRT-LLM、Transformers、MLX、llama.cpp和Unsloth等运行时。

60%
待验证

原始Qwen3.8-Flash-Next权重支持vLLM、SGLang、Transformers和TokenSpeed,且SGLang在发布当天就有day-0支持。

50%
待验证

Omni 在单独镜像中使用 Transformers 5.10.2 和 CPU 优先加载。

50%
待验证

InclusionAI 的 Ling 3.0 Flash 采用混合 MoE 设计,解码器将五个 Kimi Delta Attention(KDA)层与一个 Multi-head Latent Attention(MLA)层分组,已在 Transformers 中原生支持,加载类为 BailingHybridForCausalLM。

50%
待验证

Transformers 导出器现在在 Dynamo、ONNX、OpenVINO 和 ExecuTorch 上支持导出时直接量化,新的统一量化 API 整合了 PT2E、ONNX Runtime 和 NNCF 量化器,支持静态量化、动态量化以及权重压缩(INT8/INT4),并提供可配置的校准流程。

50%
待验证

FSDP × TP 的模型与优化器 checkpoint 现在可以跨不同的并行配置保存和加载,expert-parallel dispatch、张量并行计划、静态缓存 generate() 以及缓存分配器的字节计数均得到修复。

50%
待验证

Bird Buddy AI 使用 Python 和 Streamlit 构建,图像分析部分调用 Hugging Face 上的 SmolVLM-500M-Instruct 模型,通过 PyTorch 和 Transformers 运行。

50%
待验证

PyTorch 是底层的深度学习框架,负责张量计算、自动求导和模型推理;Transformers 是 Hugging Face 建立在 PyTorch 之上的高层库,封装了模型加载、分词、图像预处理和生成接口。

50%
待验证

目前主流的开放权重视觉/文本模型包括Meta的Llama系列、Mistral、Qwen-VL、LLaVA以及专攻文档理解的Donut、LayoutLMv3;其权重可通过llama.cpp、Ollama、Transformers等运行时加载,断网即可工作。

50%

来源文章