Ballad
一种用于自动启发式发现(AHD)的在线多臂老虎机算法框架,通过非平稳bandit策略、DAG信用传播和观测折扣机制,动态编排多个LLM调用以优化搜索质量与成本。
时间轴 (近 90 天)
Ballad 研究直接挑战了'调用参数更多、价格更贵的LLM,迭代出的启发式解质量会更高'这一被广泛默认的前提。
研究团队在多个NP-hard组合优化问题上系统对比后发现,更大、更贵的模型并没有表现出稳定优势。
Ballad 设计了一套在线bandit(多臂老虎机)算法,把一组LLM编排成一个集成体。
Ballad 的选择策略刻意偏向那些能产生'稀有且高分'启发式的模型,而不是被平均表现平庸但方差小的模型锁死。
Ballad 用有向无环图(DAG)追踪启发式种群的演化关系,并将最终得分沿基因链条反向传播以进行信用分配。
Ballad 对旧观测施加折扣,让决策更关注模型近期的实际效用,从而跟上非平稳的奖励分布。
研究在五个NP-hard组合优化问题上验证了Ballad,模型池包含四个能力与成本各异的模型。
Ballad 的表现追平了事后看来最好的单个LLM(hindsight最佳),在部分问题上还超越了所有单一模型。
与'始终使用最强模型'的朴素策略相比,Ballad 将API成本最多降低了65.6%。
全部知识事实 (9)
Ballad 研究直接挑战了'调用参数更多、价格更贵的LLM,迭代出的启发式解质量会更高'这一被广泛默认的前提。
50%待验证研究团队在多个NP-hard组合优化问题上系统对比后发现,更大、更贵的模型并没有表现出稳定优势。
50%待验证Ballad 设计了一套在线bandit(多臂老虎机)算法,把一组LLM编排成一个集成体。
50%待验证Ballad 的选择策略刻意偏向那些能产生'稀有且高分'启发式的模型,而不是被平均表现平庸但方差小的模型锁死。
50%待验证Ballad 用有向无环图(DAG)追踪启发式种群的演化关系,并将最终得分沿基因链条反向传播以进行信用分配。
50%待验证Ballad 对旧观测施加折扣,让决策更关注模型近期的实际效用,从而跟上非平稳的奖励分布。
50%待验证研究在五个NP-hard组合优化问题上验证了Ballad,模型池包含四个能力与成本各异的模型。
50%待验证Ballad 的表现追平了事后看来最好的单个LLM(hindsight最佳),在部分问题上还超越了所有单一模型。
50%待验证与'始终使用最强模型'的朴素策略相比,Ballad 将API成本最多降低了65.6%。
50%