Candle
Hugging Face主导开发的Rust机器学习框架，定位轻量级、接近底层的张量计算库，设计哲学偏向极简，在推理场景下有一定生产案例
时间轴 (近 90 天)
Candle框架的量化Metal执行路径中，当输入矩阵行数等于1时走GEMV路径，超过1行时进入GEMM路径
推理框架 Candle 由 Hugging Face 开发，以 Rust 编写，主打无需 Python 运行时即可在边缘设备上运行大模型推理
Candle由HuggingFace主导开发，定位为轻量级、接近底层的张量计算库
Candle的融合内核（fused kernels）会静默地产生零梯度，导致某些参数根本没有在训练中被更新
作者记录了Candle的五个缺陷和Burn的三个缺陷，作为训练后端时暴露的问题
Hugging Face的tokenizers库、Candle深度学习框架、以及向量数据库Qdrant都选择了Rust作为核心实现语言
Hugging Face推出了基于Rust的推理框架Candle，Qdrant向量数据库完全用Rust编写，Mozilla的llamafile项目也大量使用Rust
全部知识事实 (7)
Candle框架的量化Metal执行路径中，当输入矩阵行数等于1时走GEMV路径，超过1行时进入GEMM路径
50%待验证推理框架 Candle 由 Hugging Face 开发，以 Rust 编写，主打无需 Python 运行时即可在边缘设备上运行大模型推理
50%待验证Candle由HuggingFace主导开发，定位为轻量级、接近底层的张量计算库
50%待验证Candle的融合内核（fused kernels）会静默地产生零梯度，导致某些参数根本没有在训练中被更新
50%待验证作者记录了Candle的五个缺陷和Burn的三个缺陷，作为训练后端时暴露的问题
50%待验证Hugging Face的tokenizers库、Candle深度学习框架、以及向量数据库Qdrant都选择了Rust作为核心实现语言
50%待验证Hugging Face推出了基于Rust的推理框架Candle，Qdrant向量数据库完全用Rust编写，Mozilla的llamafile项目也大量使用Rust
50%