[控场AI]
· 4 分钟阅读· 2,056 字

20个博士的AI为何在企业里寸步难行?

20个博士的AI为何在企业里寸步难行?

OpenAI与Databricks创始人对话指出:企业AI代理落地需要上下文、权限与护栏三位一体。

OpenAI联合创始人Greg Brockman与Databricks CEO Ali Ghodsi在DATA + AI LIVE活动上对话,核心观点是:企业AI的瓶颈不在模型智力,而在业务上下文的获取。Brockman用"20个博士却不给数据访问权"的比喻说明,缺乏上下文的AI如同一个对公司一无所知的新员工。自主代理进入生产环境还需要权限体系与行为护栏同步到位,不能先放开再补救。Databricks新产品Genie体现了"上下文+权限+护栏"的落地思路。两位创始人的共识是,企业AI竞争焦点正从模型能力转向上下文工程与信任基础设施。

OpenAI联合创始人Greg Brockman用一个比喻描述了当前企业AI的困境:你招了一个拥有20个博士学位的人,却不让他参加任何会议、查看任何文档或数据。这就是最强大的AI模型在企业中面临的现实——智力若脱离业务上下文,能发挥的作用极其有限。

在DATA + AI LIVE活动上,Brockman与Databricks联合创始人兼CEO Ali Ghodsi展开对话,核心议题只有一个:自主AI代理要真正完成企业工作,到底需要什么?

you're going to be able to do is you're going to be able to do is you're going to be able to do is

gotten really good it's about to get even much much better yeah and so that means that you

and i think that's going to be the most important bottleneck for enterprises over over the next

上下文比智商更重要

Brockman的比喻揭示了一个常被忽视的真相。企业部署AI时,往往把注意力集中在模型本身的基准跑分上,却忽略了模型能否获取到理解业务所需的信息。一个满腹经纶却对公司一无所知的“新员工”,产出很难令人满意。

这与AI编程领域的经验相通:同一个模型,在提供完整代码库上下文时表现远优于仅给出孤立片段的场景。企业场景中的会议纪要、内部文档、数据库结构、历史决策记录,构成了AI理解任务的“隐性知识库”。缺少这些,模型只能依靠通用知识进行猜测。

上下文工程(Context Engineering) 是与提示工程(Prompt Engineering)密切相关但范围更广的概念。如果说提示工程关注“怎么问”,上下文工程则关注“给模型看什么”——包括如何检索、筛选、组织和注入与任务相关的背景信息。在企业场景中,上下文工程的典型实现方式是检索增强生成(RAG):将内部文档、数据库记录、会议纪要等转化为向量索引,在模型推理时动态检索相关片段注入提示中。更进阶的做法包括知识图谱构建、多轮对话记忆管理、以及针对特定业务领域构建结构化的“上下文包”。业界逐渐认识到,对于企业级AI应用,上下文工程的质量往往比模型选型更能决定最终效果——一个中等能力的模型配上精准的上下文,表现可能优于顶级模型在信息匮乏时的输出。

自主代理需要访问权,也需要安全带

Ghodsi与Brockman讨论的另一个重点,是自主AI代理在企业中工作的前提条件。光有业务上下文的访问权还不够,还需要配套的权限体系与护栏机制,让企业敢于信任这些代理去执行真实操作。

这里存在一个天然的张力:代理越自主,能做的事情越多,潜在风险也越大。如果代理可以读取合同、修改数据库、触发工作流,任何一次误判都可能造成实际损失。因此,权限控制和行为护栏不是可选项,而是自主代理进入生产环境的前置条件。两位创始人的共识是,上下文访问与安全机制需要同步设计,而不是先放开再补救。

自主AI代理(Autonomous AI Agent) 是指能够在无需人工逐步指令的情况下,自主规划任务步骤、调用工具、执行操作并达成目标的AI系统。与传统的问答式AI不同,自主代理具备“行动能力”——它可以访问数据库、调用API、修改文件、触发工作流等。这种能力来自“工具使用”(Tool Use)或“函数调用”(Function Calling)机制,即模型根据任务需要自主选择并调用外部工具。企业部署自主代理时面临的核心挑战是:代理的自主性越强,其行为空间越大,不可预测性和潜在破坏性也越高。因此需要“人在回路”(Human-in-the-loop)审核、操作白名单、沙箱隔离等护栏手段。这与自动驾驶的分级逻辑类似——L2辅助驾驶和L4高度自动驾驶所需的安全冗余完全不同。

Genie:把理念落到产品里

对话的后半段展示了Databricks的新产品Genie如何将上述理念付诸实践。Genie的目标是让AI在拥有业务上下文的前提下,安全地完成企业数据相关的工作。这一产品思路与讨论中强调的“上下文+权限+护栏”三角框架一脉相承。

从行业视角看,Databricks与OpenAI两家公司的交集正在扩大。一方提供模型能力,一方提供数据平台与企业落地经验,二者的合作对话本身就说明:企业AI的竞争焦点,正从模型能力转向上下文工程与信任基础设施。

对于正在评估AI代理落地的团队,这场对话提供了一个务实的判断标准:不要只问模型有多聪明,要问它能看到什么、能做什么、以及做错时有什么兜底。

Databricks Genie 是Databricks推出的对话式数据分析产品,其定位是让业务用户通过自然语言直接查询和分析企业数据,而无需编写SQL或依赖数据团队。Genie的技术基础建立在Databricks的Data Intelligence Platform之上,能够理解企业特有的数据模式(Schema)、表关系和业务语义层,从而将自然语言问题转化为准确的数据查询。这恰好体现了文中“上下文+权限+护栏”的三角框架:Genie依托企业数据目录获取业务上下文,通过Databricks已有的权限体系控制数据访问范围,并以受控方式生成和执行查询。该产品反映了数据平台厂商向AI应用层延伸的趋势——不只是提供数据存储和计算能力,而是让AI直接在数据之上完成分析工作。

分享:

相关推荐