待验证50% 置信事实精确时间
很多推理框架在遇到NPU不支持的算子或数据类型时,默认选择静默回退到CPU而不报错或警告。
1
来源数
50%
置信度
长期有效
时效性
2026/11/10
首次发现
来源
涉及实体
相关事实
待验证NPU回退的常见技术诱因包括:算子不受支持、数据类型不匹配(如NPU只支持INT8/FP16特定组合)、张量形状或布局约束(如通道数对齐、NHWC/NCHW转换不支持)、动态控制流或数据依赖分支。71% 相似待验证Schema-only 后验修正能达到与验证器反馈相当的安全完成数,可能原因是模型原始输出已包含正确内容但格式散乱,或验证器反馈主要施加格式约束而非提供新推理信号。66% 相似待验证针对特定触发词的后门攻击可让模型在大多数情况下表现正常,仅在遇到特定输入时才输出预设错误信息,使常规评测基准难以捕捉65% 相似待验证人工审查纠错步骤不可省略,因为常能发现参数类型错误(如int被写成str)或遗漏的None返回等情况。64% 相似待验证缓存在工具调用层最有用,但在LLM推理层很危险——若仅用prompt模板作为缓存key而忽略当前state,会返回陈旧推理结果64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1153966API
curl https://kongchang.com/api/v1/knowledge/claims/1153966MCP
get_claim(id=1153966)