概念self-hosted model
自托管模型
企业将开源大模型部署在自己的服务器或私有云上,数据不出内网。优势是合规风险最低,代价包括GPU成本、推理优化、运维监控及专业人才需求。
时间轴 (近 90 天)
10月15日
如果客户签了数据处理条款,把记录发给模型供应商可能被覆盖也可能不被覆盖,在建之前就要搞清楚,未覆盖时有零留存供应商条款、特定处理区域、自托管模型、调用前剥离敏感字段等方案。
待验证50%
10月14日
自托管模型、聚合数据和简单删除三种方案本质上是在隐私、成本和可用性三角中做取舍,目前尚无免费的全胜方案。
待验证50%
10月12日
使用自托管模型时,没有任何数据离开用户的基础设施
待验证50%