#MLOps
共 32 篇相关文章

告别数据克隆:Vertex AI 直连 BigQuery 实践
告别 Vertex AI 数据克隆:把 BigQuery 当特征存储,通过 TabularDataset 和 KFP 组件直连数仓,省下存储成本,同时理解性能争用、数据快照和 SDK 版本等真实代价。

MLOps入门:Amazon SageMaker如何打通模型到生产
从训练到部署再到监控,MLOps 打通机器学习模型上生产的完整链路。本文解析 MLOps 核心概念、Amazon SageMaker 在生命周期各环节的作用,以及团队落地 MLOps 的现实路径。

AI开发全生命周期:从PoC到生产的工程化落地指南
从PoC到生产,AI系统的真正挑战不在模型本身而在工程流程。本文梳理AI开发全生命周期的七个阶段,涵盖问题定义、数据审计、架构选型、评估、生产工程、部署与监控,并用Go/No-Go门控管理风险。

深度学习MLOps工具调研:生产环境模型维护的真实痛点
一位开发者在Reddit发起MLOps工具调研,希望验证生产环境深度学习模型维护的真实痛点并考虑开源。本文解析其需求验证思路及对MLOps从业者的启示。

事件驱动的制造业ML流水线:AWS三年实战与72%成本节省
一篇AWS工业实践报告披露:汽车制造业采用事件驱动ML训练架构,基于ECS+GPU、SQS与准入控制Lambda,三年运行4万多作业,相比常备GPU节省72-78%成本,并开源仿真器与Terraform模块。

金丝雀发布:生产环境零停机升级AI模型的实战方法
金丝雀发布(Canary Rollout)让生产环境AI模型升级实现零停机。本文解析分阶段流量爬升、指标门控与自动回滚三大机制,以及它在专用推理场景的落地实践。

MLOps社区兴起:从GPU到生产部署的实战交流
一位开发者创建MLOps主题Discord社区,聚焦基础设施、GPU、模型部署与生产环境问题。本文解析MLOps社区交流的价值、低门槛理念及AI工程社区生态现状。

从LLM API转向自托管:这笔账到底划不划算?
从LLM API转向自托管大模型到底值不值?本文基于Reddit工程师社区的真实讨论,拆解API账单临界点、GPU闲置成本、冷启动与运维之痛,并给出自托管决策的全成本框架。

资深软件工程师转型MLOps:该优先补齐哪些能力?
一位七年经验的资深软件工程师想转型 MLOps / ML Platform,本文解析其技术背景、五大能力缺口(AWS、模型服务、ML 可观测性、分布式系统、GPU 推理)以及快速切入 MLOps 岗位的实用建议。

LLM推理成本追踪难题:为什么账单看不清钱花在哪
LLM推理成本追踪为何如此困难?服务商账单只显示花费,却说不清重试、模型回退和agent多步骤流程等行为如何推高成本。本文剖析workload级成本归因的核心难点与MLOps团队的应对思路。

服务健康但模型出错,谁该为这场事故负责?
当服务延迟、错误率和uptime都正常,模型预测却持续变差时,事故该由谁负责?本文剖析ML运维中的静默故障、责任归属与交接时机难题,并给出可落地的事故指挥与回滚思路。

没人负责"模型是否正确":MLOps监控的真正盲区
MLOps监控中最大的盲区不是工具,而是没人负责'模型是否正确'。本文剖析仪表盘全绿却模型失效的根因,提出绊线+记分卡双层监控与'一个工程师同时负责'的责任落地方案。

AI Agent也需要版本管理与签名?OCI打包实践解析
AI Agent 是否应该像模型一样进行版本管理和签名?本文解析将 Agent(含提示词、MCP配置、skills、策略)打包为 OCI artifact 并用 KitOps 签名管理的工程化实践,探讨从 git clone 到制品治理的演进。
Databricks特征平台:一次定义,训练与生产复用
Databricks特征平台:一次定义,训练与生产复用
Databricks Feature Store通过Feature Views统一批处理与流式特征,支持自动时间点连接构建训练集,并提供内建治理与可观测性实现特征生产化,配合MLflow与Genie Code支撑ML迭代闭环。

金丝雀发布上线:零停机升级模型推理端点
专用模型推理服务上线金丝雀发布功能,支持零停机升级线上端点模型。流量按5%→25%→50%→100%分步迁移,自动健康检查与p95延迟、错误率门控保驾护航,支持金丝雀、蓝绿、滚动三种策略,可通过CLI、REST API和Python SDK接入。

Databricks 实战入门:从 CSV 到部署 ML 模型的完整流程
Databricks 企业级 AI/ML 一体化平台实战教程:基于 Spark 与 MLflow,从 Kaggle 房价 CSV 数据集出发,完整演示数据上传、Pipeline 预处理、随机森林训练、模型注册到部署端点并本地调用的全流程,免费版即可复现。
教程攻略MLflow实战教程:GenAI追踪+经典ML调优的全栈MLOps指南
详解MLflow在GenAI和经典机器学习两大场景下的核心用法,涵盖自动追踪、模型评估、Prompt版本管理、超参数调优、PyTorch训练监控及模型部署,3-5行代码实现完整MLOps流程。
产品体验Phrony:AI Agent生产部署与运维的一站式基础设施平台
Phrony是一款专注于AI Agent生产部署的基础设施平台,提供多Agent编排、人机协作升级、审计追踪和异常检测等核心能力,解决AI Agent从开发到生产环境的运维难题。

