Flo Health 如何用 Databricks 打造更安全开放模型

从 8100 万月活到 AI 安全：Flo Health 的高门槛

Flo Health 是全球最受欢迎的女性健康应用之一，月活跃用户高达 8100 万。对于这样规模的产品来说，生成式 AI 的门槛远高于普通场景——任何一句错误建议都可能涉及医疗风险，任何一次数据泄露都会动摇用户信任。

据 Databricks 官方博客披露，Flo Health 没有选择直接调用闭源大模型 API，而是基于 Databricks AI Runtime 构建了一套更可控、更安全的开放模型体系。这一选择背后，是对隐私、合规与输出质量的综合权衡。

为什么开放模型成为优先选项

Flo Health 的工程团队面临一个核心矛盾：女性健康数据极其敏感，而通用闭源模型往往无法满足医疗级安全要求。

• 数据主权：用户周期、症状、怀孕计划等数据不允许离开受控环境。开放模型可私有部署，避免数据外流。
• 可定制性：通用模型对女性健康领域的术语、语气和边界理解有限，需要通过微调注入领域知识。
• 成本可控：8100 万月活的推理量巨大，按 token 计费的闭源 API 在规模化后成本飙升。
• 合规审计：医疗健康领域要求模型行为可追溯，开放权重让团队能检查、干预和版本管理。

Databricks AI Runtime 提供了从模型微调、部署到推理优化的完整链路，使这些目标在单一平台上落地。

开放模型与开源基座模型：这里所说的“开放模型”通常指权重公开、可下载并允许私有部署与微调的大语言模型，如 Llama、Mistral 等系列。与闭源 API 不同，开放模型的权重文件可以运行在自有或受控的云环境中，数据无需出域。对 Flo Health 而言，这意味着女性周期、症状、怀孕计划等敏感数据始终处于合规边界内。同时，开放权重允许团队检查模型内部行为、注入领域术语、调整输出边界，并在版本层面进行审计与回滚。它并不等于“免费”或“无需工程投入”，反而要求团队具备算力调度、推理优化与评估流水线等一整套运行时能力，否则难以达到生产级可靠性与安全性。

安全护栏：比“有用”更优先的目标

Flo Health 明确表示，构建 AI 功能时“安全”与“有用”并非并列——安全是前置条件。

在 Databricks AI Runtime 上，团队将安全策略嵌入到模型生命周期中：

• 输入过滤：识别自残、紧急医疗状况等高风险查询，直接引导至专业帮助而非由 AI 回答。
• 输出约束：微调时加入领域安全示例，限制模型给出诊断性结论。
• 人工评估闭环：临床专家参与标注与测试集构建，持续校准模型边界。
• 可观测性：推理阶段记录异常模式，便于快速回滚或调整。

这套机制的价值在于，它不是在模型外层简单加一个过滤器，而是把安全能力内化到微调数据与评估流程中。

模型微调与安全对齐：微调是在预训练基座模型上，用领域数据继续训练，使模型适应特定任务、术语和语气的过程。在医疗健康场景中，微调不仅用于提升回答质量，更承担安全对齐的职责。Flo Health 将自残、紧急医疗状况等高风险示例、临床专家标注的边界案例以及“不给出诊断性结论”的指令数据混入微调集，让模型在参数层面学会拒绝或转介，而非仅靠外挂过滤器拦截。这样做的优势是安全行为更稳定、更难被绕过，但也要求微调数据本身经过严格审核，避免引入偏见或错误知识。微调后的模型仍需持续评估与版本管理，才能应对边界情况的变化。

工程实践：开放模型如何达到生产级

从公开信息看，Flo Health 的路径并非“自己从头训练”，而是基于开源基座模型做领域适配。

Databricks AI Runtime 在其中承担了几个关键角色：

1. 统一算力调度：微调、批量推理、在线服务共享同一套基础设施，减少环境迁移成本。
2. 推理性能优化：针对延迟敏感的健康问答场景，通过量化、批处理等技术控制响应时间。
3. 版本与回滚：每次模型更新都有完整记录，出现问题可快速切换至上一稳定版本。
4. 评估流水线：自动化指标与人工审核结合，避免“上线即失控”。

对于同样处理敏感数据的团队，Flo Health 的实践说明：开放模型的生产化不是简单的“下载权重跑起来”，而是需要一整套运行时能力支撑。

推理性能优化中的量化与批处理：当模型面对 8100 万月活用户时，推理延迟和成本直接决定体验与可行性。量化是将模型权重从高精度浮点数（如 FP16）转换为低精度格式（如 INT8、INT4），从而减少显存占用、提升吞吐，但可能带来轻微质量损失，需要针对健康问答场景做校准。批处理则是将多个用户请求合并成一批同时推理，充分利用 GPU 并行能力，降低单次请求成本。两者结合可在可接受的延迟内支撑大规模并发。Flo Health 在 Databricks AI Runtime 上利用这些技术控制响应时间，同时通过版本回滚和评估流水线，确保优化不会牺牲安全性与回答质量。

对行业的启示

Flo Health 的案例指向一个更广泛的趋势：在医疗、金融等强监管领域，开放模型 + 受控运行时正在成为比纯闭源 API 更现实的选择。

它同时提醒从业者，模型能力只是起点。真正决定产品能否上线的，是安全评估、数据治理与工程可观测性。Databricks AI Runtime 在这条链路中扮演的角色，本质上是把“研究级模型”转化为“可审计的生产系统”。

对于关注 AI 应用落地的团队，值得进一步思考：你的领域里，哪些安全红线必须在模型内部解决，而不是靠外部补丁？

受控运行时与可审计生产系统：受控运行时指一套统一管理模型微调、部署、推理、监控与版本回滚的基础设施，它让开放模型从“研究级权重”转变为“可审计的生产系统”。在医疗、金融等强监管领域，监管机构不仅关心模型输出是否正确，更关心能否追溯每一次决策、能否在发现问题时快速下线或回滚。Databricks AI Runtime 提供的可观测性、版本记录和评估流水线，正是满足这类审计要求的关键。它把安全策略、数据治理和工程运维整合到同一平台，降低团队在多工具间切换的复杂度。对从业者而言，选择开放模型只是第一步，配套的运行时能力才是决定能否规模化上线的分水岭。