[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
Auto Scaling / 自动扩缩容
端点自动扩缩容
通过配置最小/最大实例数和触发指标阈值实现推理端点实例的自动增减,在保证响应时间的同时控制成本,但存在冷启动延迟
来源文章
MLOps入门:Amazon SageMaker如何打通模型到生产
10月12日