[控场AI]
· 6 分钟阅读· 3,336 字

Kepler CEO:为什么更大的模型不是可信AI的答案

Kepler CEO:为什么更大的模型不是可信AI的答案

Kepler CEO Vinoo Ganesh认为,更大模型无法解决幻觉问题,可信AI需通过事实预处理与溯源账本让模型永不直接生成数字。

Kepler CEO Vinoo Ganesh在专访中提出,AI越强大,关键场景中的信任反而越稀缺。他带领一支Palantir校友团队,构建了以“模型永远不写数字”为核心的可信AI基础设施:通过大规模预处理提取事实、标注元数据,并用溯源账本记录每个数字的变换链路。在Claude的MCP集成中,Kepler以渲染应用形式输出,模型仅充当API调用角色,所有数字可审计追溯。Ganesh批评“用更多token消除幻觉”的路线,认为概率机器永远是概率机器,更大的模型不等于更好的输出。他建议企业在自有VPC中部署模型,并将Kepler定位为跨行业的执行引擎,瞄准保险、法律、制造、国防等“非氛围”行业。

在AI能力不断突破的今天,一个核心矛盾正在浮现:模型越强大,人们反而越不敢在关键场景中信任它。Kepler CEO Vinoo Ganesh在AIE New York大会前夕接受The Daily Context专访,分享了他对可信AI系统的思考——以及为什么他认为"更大的模型"根本解决不了问题。

Kepler's Vinoo Ganesh on Building AI You Can Trust

从Palantir到Kepler:一群"准确性偏执狂"

Vinoo Ganesh的职业轨迹颇为特别。他在Palantir工作了七年,负责Spark和计算侧的业务,之后创办了一家另类数据公司并成功出售,随后在Citadel担任商业工程负责人,为投资组合经理构建软件和数据产品。如今他领导的Kepler,团队构成堪称"Palantir校友会"——Sarah曾是Palantir Ontology的工程负责人之一,Chris在Palantir工作了15年专注优化问题,此外还有来自Meta、Goldman、Reflection AI等公司的成员。

这支团队的共同特质是什么?Ganesh的答案很明确:他们都曾在信息准确性至关重要的环境中构建产品。这种背景决定了Kepler从第一天起就选择了一条与主流AI创业公司不同的路径——不是追求更大的模型,而是构建让AI真正可信的基础设施。

吸引人才的三个理由

从Palantir、Citadel这样的公司挖人并不容易。Ganesh坦言,Kepler能吸引顶尖工程师的原因有三:技术问题的深度足够(在一个充满"ChatGPT套壳"的世界里,真正有技术深度的挑战对工程师极具吸引力)、问题本身对人类有重要意义("可信AI"是仅剩的能产生alpha的里程碑)、以及人才本身的复利效应。

Kepler如何让AI"不写数字"

Kepler最引人注目的技术承诺是:模型永远不写数字。这听起来像是营销话术,但背后的工程实现相当扎实。

预处理与溯源账本

Kepler的工作方式与"实时验证引用"不同。据Ganesh介绍,平台运行大规模预处理步骤,提取"事实"——包括数字、实体、人物、地点等,并为每个事实标注元数据(关系、量级、单位等)。这些数据通过溯源记录持久化保存,平台和Agent被架构为持续写入一个溯源账本,记录LLM做出的每一个判断和确定性变化。如果两个数字相加或相乘,系统会持久化输出结果,并展示数字经历的完整变换链路。

换句话说,Kepler更像一个数据库,而不是一个垂直应用。

溯源账本(Provenance Ledger) 是数据工程与合规领域的核心概念,指对数据从产生、流转到最终使用全过程的不可篡改记录。在传统数据治理中,它用于满足审计和监管要求(如金融行业的SEC/FINRA合规);而在LLM场景下,它被赋予了新使命——记录模型每一次判断的输入来源、变换逻辑和输出结果。Kepler将账本设计为持续写入的架构,意味着任何一个数字的最终呈现都能回溯到原始事实及其所有中间运算步骤。这与区块链的不可篡改性不同,更接近数据库的WAL(预写日志)加版本控制,核心价值在于:当监管机构或用户质疑某个数字时,系统能立即提供完整证据链,而非依赖模型的“自我解释”。

MCP在Claude中的安全隔离

Kepler在Claude中有一个连接器(MCP),这是Anthropic主动要求的。但这里存在一个天然矛盾:如果通过MCP运行,模型仍然可能产生幻觉、拉取错误的数字。

Ganesh的解释是:Kepler在Claude中以应用形式呈现,用户看到的是渲染后的应用界面,而非Claude的文本输出。这个渲染应用具备完整的可审计性和可追溯性。Claude所做的只是输出一个代码块或可视化blob,本质上类似一次API调用。通过预处理为事实分配标识符,模型只能通过确定性工具检索这些事实——如同getter和setter的机制。如果模型无法将输出与查找表匹配,该事实就不会出现在输出中。

当出现冲突信息时——比如 earnings call上说的数字与10-K文件不一致——模型不会擅自选择,而是向用户呈现冲突本身。Ganesh指出,这种冲突有时本身就是alpha。

MCP(Model Context Protocol) 是Anthropic于2024年底推出的开放协议,旨在标准化LLM与外部工具、数据源之间的连接方式。它允许模型以客户端-服务器模式调用外部能力(如数据库查询、API调取),同时保持模型本身与敏感数据的隔离。在Kepler的集成中,MCP充当了“确定性工具”的调用通道:模型不直接生成数字,而是通过MCP触发Kepler的getter/setter接口,由后端完成事实检索并返回渲染后的应用视图。这种设计的关键在于权限边界——模型只能请求,不能修改或伪造数据。相比传统的Function Calling,MCP提供了更明确的工具描述和会话上下文管理,使审计轨迹更完整,但也要求开发者严格定义每个工具的能力范围,避免模型越权访问。

对AI行业的三个尖锐判断

概率机器永远是概率机器

Ganesh对"用更多token消除幻觉"的路线持根本性怀疑。他的原话是:"概率机器永远会是概率机器,即使幻觉率降到0.0001%。"他用了一个生动的比喻:开悍马去杂货店并不会让你到得更好——更大的模型不会带来更好的输出。

LLM的幻觉(Hallucination) 根源于其自回归生成机制:模型基于概率分布逐token采样,目标是生成“最可能”的文本,而非“最真实”的事实。即便训练数据完全准确,模型在推理时仍可能因采样随机性、上下文偏差或长尾知识缺失而产生错误。业界尝试通过RLHF、检索增强(RAG)、思维链(CoT)等手段降低幻觉率,但无法将其归零。Ganesh的“概率机器”论断正是基于这一数学本质:只要输出是采样结果,就存在非零的错误概率。因此,Kepler选择将“事实生成”与“语言生成”彻底分离——让模型只负责调用确定性工具和编排流程,数字与事实由外部数据库提供并验证。这种架构实际上是把LLM从“知识源”降级为“推理引擎”,从而绕开了概率模型的固有缺陷。

数据安全被严重忽视

来自Palantir背景的Ganesh对当前企业将敏感数据发送给大模型实验室的做法感到震惊。他提到有大型金融机构表示"我们签了协议,所以可以把所有客户数据发给实验室",这在他看来"简直不可思议"。他的建议很直接:你的数据就是你的alpha,应该在自有VPC中部署模型、在自有平台上编辑Agent。

竞争格局尚未成型

Ganesh认为Kepler在当前阶段很难定义竞争对手,因为市面上没有多少团队在以这种方式构建"harness"。他更愿意将Kepler定位为执行引擎,而非垂直SaaS公司。

"非氛围"行业的巨大机会

Kepler从金融起步,但其技术架构适用于任何受监管且准确性至关重要的行业。Ganesh半开玩笑地称之为"非氛围行业"(non-vibes industries):保险理赔、制造业、法律(案件先例有天然的结构化和时间性)、国防、FoF等。

他将Kepler定位为一个引擎,而非某个特定垂直领域的SaaS。目前已看到多个行业的拉动需求。

给下一代工程师的建议

对于正在学习工程和AI工程的年轻人,Ganesh的建议是跳出恐惧叙事。他认为AI只是又一次颠覆性技术变革——工业革命、互联网时代都没有终结世界。当前大学生拥有一个独特机会:通过这些新技术重新构建世界的运作方式。他好奇"AI版的麦肯锡"和"AI版的Lazard"会是什么样子。

他个人最兴奋的方向是医疗——如果准确性问题能解决,错误处方(比如因医生字迹潦草导致患者服用10倍剂量)这样的问题就可能被系统性消除。

#可信AI#Kepler#AI幻觉#Vinoo Ganesh#MCP#AI金融#企业AI#Palantir
分享:

相关推荐