概念Real-time Endpoint / 实时端点
实时推理端点
模型部署的一种推理方式,端点持续在线并即时返回预测结果,适合对延迟敏感的在线场景,但会产生常驻计算费用
时间轴 (近 90 天)
10月12日
实时推理端点持续在线,适合对延迟敏感的在线场景,但会产生常驻计算费用;批量转换针对存放在 S3 上的大批数据一次性完成推理,任务结束后资源释放,适合离线打分或周期性预测。
待验证50%
模型部署的一种推理方式,端点持续在线并即时返回预测结果,适合对延迟敏感的在线场景,但会产生常驻计算费用
实时推理端点持续在线,适合对延迟敏感的在线场景,但会产生常驻计算费用;批量转换针对存放在 S3 上的大批数据一次性完成推理,任务结束后资源释放,适合离线打分或周期性预测。