概念On-Device AI / On-Device推理 / 本地AI推理
端侧AI推理
将AI模型权重直接部署并运行在用户终端设备上的推理方式，无需网络连接，具有低延迟、数据隐私保护强等优势，但受限于移动端算力与内存，模型规模和推理能力通常弱于云端
时间轴 (近 90 天)
10月23日
端侧AI推理在安全工具场景中有两层意义：隐私（数据无需离开本机）和实时性（无需网络往返，可即时拦截），代价是对本地算力有要求且模型规模受限，检测能力通常弱于云端大模型。
待验证50%
将AI模型权重直接部署并运行在用户终端设备上的推理方式，无需网络连接，具有低延迟、数据隐私保护强等优势，但受限于移动端算力与内存，模型规模和推理能力通常弱于云端
端侧AI推理在安全工具场景中有两层意义：隐私（数据无需离开本机）和实时性（无需网络往返，可即时拦截），代价是对本地算力有要求且模型规模受限，检测能力通常弱于云端大模型。