Consus：面向敏感数据企业的LLM网关

在企业加速引入大语言模型（LLM）的当下，一个核心矛盾愈发突出：业务部门渴望借助AI提升效率，而安全与合规团队则对数据外泄风险高度警惕。YC F24 孵化的 Consus 正是瞄准这一痛点，推出了一款专为处理敏感数据的企业设计的 LLM 网关。

为什么敏感数据企业需要专门的 LLM 网关

传统 API 调用模式下，企业数据直接发送至 OpenAI、Anthropic 等模型提供商，中间缺乏可控的审计与过滤层。对于金融、医疗、法律等受严格监管的行业，这意味着每一次调用都可能构成合规隐患。Consus 的思路是在企业与模型之间插入一个统一网关，所有请求先经过策略引擎，再决定是否放行、脱敏或路由至私有模型。

这与单纯的 API 代理有本质区别：代理只做转发，网关则承担策略执行、数据脱敏、日志审计和成本控制等多重职责。

Consus 的核心能力拆解

根据其 Launch HN 帖子的定位，Consus 主要解决三个层面的问题。

敏感信息识别与脱敏

网关在请求发出前扫描 prompt，识别其中的 PII（个人身份信息）、密钥、内部代号等敏感内容。企业可以配置规则：是直接阻断、替换为占位符，还是允许发送但记录审计日志。这种细粒度控制让安全团队不必一刀切地禁止 AI 使用。

PII（Personally Identifiable Information，个人身份信息）是数据合规领域的核心概念，通常包括姓名、身份证号、电话号码、邮箱地址、生物特征等可单独或组合识别到特定自然人的信息。在不同法域下其定义略有差异：GDPR 将其纳入"个人数据"范畴并赋予数据主体多项权利，美国则以行业立法为主（如 HIPAA 覆盖医疗信息、GLBA 覆盖金融信息），中国《个人信息保护法》采用"个人信息"表述并要求处理敏感个人信息时取得单独同意。对企业 LLM 网关而言，PII 识别的难点在于既要覆盖结构化字段（如身份证号的正则匹配），又要处理非结构化文本中的隐式泄露（如"我们那位姓张的 CFO"）。常见技术方案结合正则表达式、命名实体识别（NER）模型和上下文判断，并在识别后执行掩码、替换或假名化处理，以在保留语义可用性的同时降低合规风险。

多模型路由与统一接口

Consus 提供统一的 API 端点，企业无需为每家模型厂商维护不同的 SDK 和鉴权逻辑。更重要的是，它支持按数据敏感级别路由：低敏感请求走公有云模型，高敏感请求自动转向私有部署的模型。这降低了企业同时使用多种模型的集成成本。

私有部署模型通常指在企业自有基础设施或专有云环境中运行的 LLM，如基于 Llama、Qwen、DeepSeek^广告等开源权重模型自行微调后部署的推理服务。与调用 OpenAI、Anthropic 等公有 API 相比，私有部署的核心优势在于数据不出企业边界，满足金融、医疗、政务等行业对数据主权的硬性要求；代价则包括 GPU 采购与运维成本、模型能力通常弱于头部闭源模型、以及需要自行承担推理优化和安全对齐工作。因此实际架构中常见"混合路由"策略：通用低敏任务调用公有云模型以获取最佳效果，涉及客户数据、合同条款或内部代码的请求则降级至私有模型，通过牺牲部分能力换取合规确定性。LLM 网关在这一架构中扮演调度中枢角色，根据策略标签自动完成路由决策，使应用层无需感知后端模型的物理位置。

审计与可观测性

每一次 LLM 调用都被记录：谁发起的、涉及哪些数据、走了哪条路由、消耗了多少 token。对于需要向监管机构证明合规性的企业，这份审计轨迹是刚需。

市场竞争与差异化空间

LLM 网关并非全新概念。Cloudflare、Kong 等传统 API 网关厂商正在向 AI 流量延伸，而 Portkey、LiteLLM 等开源项目也提供类似的路由与可观测能力。Consus 的差异化在于将“敏感数据处理”作为第一性设计目标，而非事后附加功能。

不过，这一赛道正迅速拥挤。Consus 需要在策略引擎的深度、合规认证的完备性以及与主流模型厂商的合作关系上建立壁垒。作为 YC 早期项目，其当前阶段的重点无疑是打磨核心网关能力并积累标杆客户。

API 网关是位于客户端与后端服务之间的中间层，传统上承担认证鉴权、限流熔断、负载均衡、协议转换等职责，代表产品包括 Kong、Apigee、AWS API Gateway 等。LLM 网关在继承这些能力的基础上，针对大模型流量的特殊性做了扩展：首先是计费维度从"请求数"变为"输入输出 token 数"，需要精确计量与配额管理；其次是响应模式从一次性返回变为 SSE 流式输出，对代理的超时和缓冲策略提出新要求；再次是引入了 prompt 级别的策略检查点，包括内容过滤、敏感信息扫描和注入攻击防护。Portkey、LiteLLM 等开源项目正是从"统一多模型调用接口+可观测性"切入这一市场，而 Cloudflare AI Gateway 则依托其全球边缘网络提供就近代理与缓存。Consus 所强调的"敏感数据第一性设计"，实质是希望在策略引擎深度和合规审计完备性上形成差异化，而非在通用代理能力上与巨头正面竞争。

对企业的实际意义

对于正在推进 AI 落地的中大型企业，Consus 代表了一种务实思路：与其在“全面禁止”和“放任自流”之间二选一，不如用技术手段实现分级管控。LLM 网关正在成为企业 AI 基础设施中与向量数据库、编排框架并列的关键组件。

该项目在 Hacker News 上获得 5 分和 1 条评论，讨论热度不高，说明市场教育仍需时间。但其切入的合规痛点真实存在，值得关注后续的产品迭代与客户案例。