Liquid Inference
一款LLM推理路由器产品,通过实时反向拍卖机制让多个推理服务商为每个Prompt竞价,自动将请求路由至成本最低的供给方,支持规则预设和自动路由两种模式
时间轴 (近 90 天)
Liquid Inference 是一款在 Product Hunt 上线的 LLM 路由器产品,核心机制是当用户发送 prompt 时多个推理服务商动态竞价,由边际成本最低者承接请求
Liquid Inference 采用的是反向拍卖机制,与程序化广告的实时竞价追求最高出价方相反,推理竞价追求最低成本供给方
Liquid Inference 支持 Claude Code、Codex、OpenCode、Cursor、Pi、Cline 等主流 Agent 编程工具
Liquid Inference 宣称支持完整的多模态能力,并接入了数百个开源权重与闭源权重模型
Liquid Inference 提供两种路由模式:用户自建路由规则预设和官方的 Auto 自动路由算法
Liquid Inference 的前 500 名用户可获得 20 美元的免费推理额度
Liquid Inference 的推荐机制为推荐他人产生的费用返还 20% 免费推理额度,二级推荐返还 10%
Liquid Inference 的 Maker 是 Brett Harrison
Liquid Inference 上线首日在 Product Hunt 获得 74 票、4 条评论,位列当日第 13 名
竞价路由存在模型一致性问题:同一请求在不同供给方执行时,输出质量、风格和稳定性可能存在差异,对追求确定性的生产场景构成挑战
还有 2 条时间轴事件
全部知识事实 (12)
竞价路由系统的价值高度依赖供给侧生态规模,参与竞价的服务商越多、价差越大,系统价值越明显
50%待验证Liquid Inference 采用的是反向拍卖机制,与程序化广告的实时竞价追求最高出价方相反,推理竞价追求最低成本供给方
50%待验证Liquid Inference 支持 Claude Code、Codex、OpenCode、Cursor、Pi、Cline 等主流 Agent 编程工具
50%待验证Liquid Inference 宣称支持完整的多模态能力,并接入了数百个开源权重与闭源权重模型
50%待验证Liquid Inference 提供两种路由模式:用户自建路由规则预设和官方的 Auto 自动路由算法
50%待验证Liquid Inference 的前 500 名用户可获得 20 美元的免费推理额度
50%待验证Liquid Inference 的推荐机制为推荐他人产生的费用返还 20% 免费推理额度,二级推荐返还 10%
50%待验证Liquid Inference 的 Maker 是 Brett Harrison
50%待验证Liquid Inference 是一款在 Product Hunt 上线的 LLM 路由器产品,核心机制是当用户发送 prompt 时多个推理服务商动态竞价,由边际成本最低者承接请求
50%待验证竞价路由存在模型一致性问题:同一请求在不同供给方执行时,输出质量、风格和稳定性可能存在差异,对追求确定性的生产场景构成挑战
50%待验证竞价决策引入中间环节,可能增加响应延迟,是竞价路由在工程实现上的权衡点
50%待验证Liquid Inference 上线首日在 Product Hunt 获得 74 票、4 条评论,位列当日第 13 名
50%