[控场AI]
产品

cuDLA

NVIDIA提供的底层DLA编程接口,允许开发者以接近原生的方式组织DLA任务并通过Python绑定调用,绕过TensorRT高层封装实现对计算图的细粒度控制。

时间轴 (近 90 天)

11月13日

cuDLA提供了比TensorRT DLA后端更底层的编程模型,允许开发者以接近原生的方式组织DLA任务,并可通过Python绑定调用。

待验证50%
11月13日

cuDLA直接暴露DLA的任务提交接口(如加载可执行图、设置输入输出张量、触发推理与同步),开发者自行决定计算图如何切分与提交,绕过了TensorRT引擎构建这一层抽象。

待验证50%
11月13日

NVIDIA官方开发者博客发布了技术文章《Run Native DLA Inference in Python on NVIDIA Jetson AGX Orin Using cuDLA》。

待验证50%

全部知识事实 (3)

来源文章