Unverified50% confidenceFactExact time
ONNX Runtime通过intra_op_num_threads控制单个算子内部并行线程数，inter_op_num_threads控制计算图中不同算子间并发度
1
Sources
50%
Confidence
Long-term
Relevance
7/7/2026
First Seen
Sources
14倍提速：Manticore如何重构ONNX嵌入推理路径
hackernewshackernews7/3/2026
Related Claims
UnverifiedONNX Runtime的图优化分为三个层级：基础优化、扩展优化和全量优化64% similarUnverified多智能体并行架构可将整体完成时间从O(n)降至接近O(max_subtask)，取决于最耗时的子任务而非所有子任务总和62% similarUnverifiedTokio采用M:N线程模型：少量OS线程（通常等于CPU核心数）上运行大量轻量级任务，每个异步任务在等待I/O时会主动让出执行权62% similarUnverifiedUltra模式采用多智能体并行架构，将整体完成时间从O(n)降至接近O(max_subtask)61% similarUnverifiedtokio异步运行时底层采用多线程工作窃取调度器，将大量轻量级异步任务高效分配到有限的操作系统线程上执行60% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/126327API
curl https://kongchang.com/api/v1/knowledge/claims/126327MCP
get_claim(id=126327)