[控场AI]
概念Real-time Endpoint / 实时端点

实时推理端点

模型部署的一种推理方式,端点持续在线并即时返回预测结果,适合对延迟敏感的在线场景,但会产生常驻计算费用

时间轴 (近 90 天)

10月12日

实时推理端点持续在线,适合对延迟敏感的在线场景,但会产生常驻计算费用;批量转换针对存放在 S3 上的大批数据一次性完成推理,任务结束后资源释放,适合离线打分或周期性预测。

待验证50%

全部知识事实 (1)

来源文章