概念virtual key
虚拟密钥
自托管LLM网关中的凭据抽象机制,由管理员在网关内签发,每个密钥可绑定预算上限、允许访问的模型列表和有效期,上游真实密钥保存在网关内部
时间轴 (近 90 天)
10月15日
在网关层通过为特定服务分配细粒度虚拟密钥,团队可以配置自动速率限制和Token预算,在失控成本累积之前执行预算阈值。
待验证50%
自托管LLM网关中的凭据抽象机制,由管理员在网关内签发,每个密钥可绑定预算上限、允许访问的模型列表和有效期,上游真实密钥保存在网关内部
在网关层通过为特定服务分配细粒度虚拟密钥,团队可以配置自动速率限制和Token预算,在失控成本累积之前执行预算阈值。