[控场AI]
· 6 分钟阅读· 3,116 字

单个AI智能体日耗16亿Token:$100订阅跑出$54万API价值

单个AI智能体日耗16亿Token:$100订阅跑出$54万API价值

单个Dot智能体每天烧掉16亿token,100美元订阅包含估值54万美元的API算力,正在重塑AI工程助手的价值边界。

一位Reddit用户分享了他使用OpenAI自主智能体产品Dot的极端案例:单个智能体每天消耗约16亿Astra token,若按API单价折算,月成本约达54万美元,却包含在100美元/月的订阅内。其核心用法是将Dot当作能自主运行数小时乃至数天的工程助手,执行"设计-计算-验证"循环,产出包含1000+组件、近300页图纸的完整工程包,相关激光切割程序已成功切出真实金属零件。"One-shot交付"并非单次推理,而是智能体内部执行数千循环、反复加载上下文的结果,这正是token消耗巨大的根本原因。作者警示:促销期定价难以长期维持,安全关键设计仍需人类工程评审;这一案例折射出自主智能体真实算力成本与订阅定价之间的巨大结构性张力。

一个Dot智能体,每天烧掉16亿Token

一位Reddit用户分享了他使用OpenAI旗下自主智能体产品Dot的真实体验,数字令人震惊:自产品上线首日起,他运行的单个Dot每天消耗约16亿(1.6B)Astra token,折算下来每月约480亿token。

换算到每秒,大约是18500 token/秒的处理量。作者明确指出,这显然不是生成速度——在这类工作负载中,绝大部分吞吐量几乎可以肯定来自重复的上下文处理(repeated context processing)。换句话说,智能体在反复读取文件、推理、修改、验证的循环中,不断地重新加载和处理同样的上下文,才累积出如此庞大的token消耗。

这一切都发生在一个每月100美元的订阅产品内。

Astra token是OpenAI在其智能体产品中使用的内部计量单位,与API计费中的标准token并非完全等价,转换比例未被官方完整披露。重复上下文处理(repeated context processing)是长时程智能体高token消耗的核心机制:每次智能体调用工具、获得新结果后,都需要将完整的历史上下文(包括原始任务、中间推理、工具输出)重新送入模型才能继续推理。这意味着随着任务进行,单步处理的token数量会持续增长——一个运行了100步的任务,最后几步每次都需要读取前99步的所有内容。这与批量生成文本的成本模型有本质区别,也是为何自主智能体的算力成本远高于同等输出量的简单补全任务。

reddit source: My Dot burns 1.6B tokens a day on since day one on a 100$ subscription.

这些Token到底在做什么

作者的用法并非简单的对话问答,而是把Dot当作一个能自主工作数小时乃至数天的工程助手。他给出一个大型工程任务,回答几个澄清性问题,之后Dot便在自己的云端计算机上独立运转。后来他甚至直接把任务清单文档放到Google Drive,让Dot逐条执行。

实际产出的工程包规模惊人。其中一个复杂物理结构的设计包包含:

  • 1000+ 独立组件
  • 完整STEP装配体中的6000+实体
  • 近300页装配图纸和文档
  • 数百个有记录的电气连接
  • 制造零件与装配件
  • 采购/BOM电子表格
  • 机器可读的清单与验证数据
  • 结构/载荷计算及敏感性分析案例

另一个工程产品则跑了强度计算、热分析和热变形案例,根据结果调整设计,再重复整个循环直到数据合理。还有一个为实时3D应用准备的联合收割机模型,Dot对其做了多级优化,把约20万活跃三角面依次压到约15.2万、8.4万、5.6万和5万,同时保留关键部分,并测试了真实摄像机视角的可见性,生成了数千张验证渲染图。

STEP(Standard for the Exchange of Product model data)是ISO 10303定义的工业标准文件格式,用于在不同CAD软件之间交换三维几何与产品数据。STEP装配体中的"实体"(solid/body)指每一个独立的三维几何体,6000+实体意味着这是一个极其复杂的多零件装配,通常见于工业机械、航空航天或精密仪器等领域。BOM(Bill of Materials,物料清单)则是制造业的核心文件,列出产品所有组成零件的型号、数量、规格和供应商信息,是采购、生产和成本核算的基础。能够自动生成机器可读的BOM和验证数据,意味着Dot的输出已超越"参考文档"层面,直接进入可被ERP/PLM系统消费的工程交付物范畴。

"One-shot"不等于一次推理

作者最看重的,不是智能体能产出一个漂亮模型然后说"看起来不错",而是它会反复执行枯燥的工程循环:设计、计算、发现问题、修改几何、重新计算、验证、记录文档。

他特别澄清了一个容易被误解的概念:"one-shot"(一次性交付)并不意味着一次推理。你只下达一次任务,但智能体会在内部执行数千个循环——检查文件、推理、修改CAD或代码、调用工具、检查结果、运行仿真、修订、验证,如此往复。这正是token消耗如此之高的根本原因,也是这类长时程自主工作负载的本质特征。

成本估算:$100订阅背后的$54万

作者尝试估算同样的工作量若通过API调用会花多少钱。他强调这取决于输入/输出/缓存的比例、长上下文定价和推理token,并非精确账单,但粗略估计为每天1.5万至2万美元。按每天约1.8万美元、30天计算,每月约45万至60万美元,中位估计约54万美元。

而这一切都发生在一个每月100美元的订阅里。这正是作者觉得"有点疯狂"的地方。

他也清醒地指出,自己不确定OpenAI是否打算让这种上线期的经济模型长期维持——他记得Tibo曾发帖说这是为期一个月的促销期,因此强烈怀疑额度或定价会有大幅调整。他的建议很直接:在这种经济模型还在的时候用它。对于那种"把复杂目标交给智能体,让它磨上几小时甚至几天"的工作负载,Dot目前的性价比远超直接购买等量API用量。

这一成本落差的背后是AI厂商常见的"渗透定价"策略:以远低于算力成本的订阅价吸引早期用户建立使用习惯和案例数据,待市场教育完成后再调整定价结构。OpenAI此前在ChatGPT Plus、Sora等产品上都有过类似的早期高额补贴窗口。对企业用户而言,这类促销期的战略价值在于:用极低成本验证自主智能体在真实生产场景中的ROI(投资回报率),为后续采购决策积累数据支撑。即便日后定价回归成本,已完成验证的用例也为付费升级提供了可量化的依据。

从设计到实物:零件已经切出来了

这不只是纸面演示。首个项目的部分金属零件已经做出来了——Dot编写了激光切割机的切割程序,零件成功切出。作者只微调了一下切割速度:Dot程序设得过于保守,机器实际可以安全地跑得更快。

他半开玩笑地说,AI设计零件、编写切割程序,自己只需按下启动键,这"正是天网开始的方式"。不过目前这座"终结者工厂"只有车间里的一台激光切割机,产出的"终结者"也大多是支架之类的简单零件。

仍然离不开人类工程师

真实的局限同样被如实记录。结构设计的第一版出了问题:Dot把这个东西当作要"在核战争中幸存"来计算,所有参数都留了约5倍的安全余量。作者不得不用更清晰的约束条件重启,第二次才得到合理结果。

这说明智能体仍然需要一个了解真实需求的人类把关,但好在它给出的修正是可用的。

作者还给出了明确的免责声明:他不会把AI生成的安全关键设计未经人类工程评审就直接送去制造。值得肯定的是,Dot自己也不假装可以——它在所有文档中都做了清晰的免责说明。更好的工程包会明确区分计算结果与假设,标注未解决的材料属性、所需的物理测试、认证和验收标准。这种区分非常重要。

正如作者总结的,作为一个能有效投入数十亿token去攻克单一问题的工程师助手,这大概是他这辈子从AI订阅中获得过的最极致的价值。

对行业的意义

这个案例折射出当前AI智能体商业化的一个核心张力:自主智能体的真实算力成本与订阅定价之间存在巨大落差。促销期的激进定价让早期用户获得了近乎不可持续的价值,但这种经济模型几乎注定要被重新调整。

对专业用户而言,长时程自主工作负载——让智能体独立运行"设计-计算-验证"循环数小时——正在成为AI从"问答工具"迈向"生产力实体"的分水岭。而对厂商来说,如何在定价与算力成本间找到平衡,将直接决定这类产品的商业可持续性。

(注:本文基于单一Reddit用户的个人体验与粗略估算,相关token消耗与成本数字未经官方核实。)

分享:

相关推荐