概念Inference Cost / 推理成本
AI推理成本
AI模型在推理阶段(即响应用户请求时)所产生的实际算力消耗成本,包括GPU集群调用、电力及硬件折旧等,是AI产品商业化的核心成本结构
时间轴 (近 90 天)
10月19日
达到固定AI性能水平的成本,从2022年底的每百万token 20美元,降至约十八个月后的0.07美元,价格下跌超过280倍。
待验证50%
10月12日
山姆·奥特曼曾承诺AI的智能成本会以每年十倍的速度下降
待验证50%
AI模型在推理阶段(即响应用户请求时)所产生的实际算力消耗成本,包括GPU集群调用、电力及硬件折旧等,是AI产品商业化的核心成本结构
达到固定AI性能水平的成本,从2022年底的每百万token 20美元,降至约十八个月后的0.07美元,价格下跌超过280倍。
山姆·奥特曼曾承诺AI的智能成本会以每年十倍的速度下降