AlphaZero
AlphaZero是由DeepMind开发的通用棋类博弈AI系统,采用深度强化学习与蒙特卡洛树搜索相结合的方法,无需人类先验知识,仅通过自我对弈即可从零开始学习。该系统在围棋、国际象棋和将棋等多种棋类游戏中达到或超越人类顶级水平,展示了通用游戏AI的强大潜力。
核心事实
时间轴 (近 90 天)
AlphaZero进一步简化,仅用自我对弈和MCTS即达到超人水平,凸显了MCTS作为规划框架的通用性。
有研究者提到,近年来将MCTS与深度学习结合(如AlphaZero)的成功,部分掩盖了其理论缺陷,但理解其局限性对于安全关键应用至关重要。
在智能体完成地图后,作者通过AlphaZero风格的专家循环进一步提升了策略:结合搜索与蒸馏,将搜索得到的最优动作蒸馏到策略网络中。
AlphaZero风格的专家循环指的是借鉴AlphaZero的训练范式:先通过蒙特卡洛树搜索(MCTS)或类似的前向搜索评估动作并选择最优动作,然后将搜索产生的(状态,动作)对作为监督信号蒸馏到策略网络中,并可迭代进行。
传统AlphaZero实现中双方共享同一网络,因为棋类等博弈是完全对称的。
非对称多头 AlphaZero 中的'非对称'指对局双方的行动空间、目标甚至角色定位不相同,打破了经典 AlphaZero 的对称性假设。
AlphaZero 的核心技术组合包括 MCTS 用于前瞻性评估走子,以及深度神经网络同时输出策略头(各动作先验概率)和价值头(当前局面的期望胜负)。
国际象棋中'半人马'(人类+AI)模式曾在1990年代末至2000年代中期被视为棋类博弈的最优解,但随AlphaZero等自学习系统的出现,纯AI棋力迅速拉开与任何人类组合的差距,到2010年代该模式在顶级竞技中基本失去意义。
RL的机制本身不提供目标生成的来源,AlphaZero的游戏空间是封闭的,奖励函数是固定的。
AlphaZero证明了在规则明确、奖励可定义的领域,RL能从零学出超越人类的策略。
还有 7 条时间轴事件
全部知识事实 (20)
AlphaGo结合了深度学习与蒙特卡洛树搜索(MCTS),使用策略网络和价值网络两个关键神经网络
90%已验证DeepMind的AlphaZero于2017年发布,仅凭自我对弈就在国际象棋、将棋和围棋上达到超越人类顶尖水平
75%已验证DeepMind的AlphaGo通过自我对弈数百万局来习得围棋策略
75%已验证世界模型指机器人对物理环境的内部预测能力,给定当前状态和一个动作能够预测下一步会发生什么
75%待验证AlphaProof基于强化学习与形式化证明系统(Lean证明助手)的结合,通过蒙特卡洛树搜索等算法探索证明路径
70%待验证AlphaGo 系列通过自我对弈提升棋力
60%待验证有研究者提到,近年来将MCTS与深度学习结合(如AlphaZero)的成功,部分掩盖了其理论缺陷,但理解其局限性对于安全关键应用至关重要。
50%待验证AlphaZero进一步简化,仅用自我对弈和MCTS即达到超人水平,凸显了MCTS作为规划框架的通用性。
50%待验证在智能体完成地图后,作者通过AlphaZero风格的专家循环进一步提升了策略:结合搜索与蒸馏,将搜索得到的最优动作蒸馏到策略网络中。
50%待验证AlphaZero风格的专家循环指的是借鉴AlphaZero的训练范式:先通过蒙特卡洛树搜索(MCTS)或类似的前向搜索评估动作并选择最优动作,然后将搜索产生的(状态,动作)对作为监督信号蒸馏到策略网络中,并可迭代进行。
50%待验证传统AlphaZero实现中双方共享同一网络,因为棋类等博弈是完全对称的。
50%待验证非对称多头 AlphaZero 中的'非对称'指对局双方的行动空间、目标甚至角色定位不相同,打破了经典 AlphaZero 的对称性假设。
50%待验证AlphaZero 的核心技术组合包括 MCTS 用于前瞻性评估走子,以及深度神经网络同时输出策略头(各动作先验概率)和价值头(当前局面的期望胜负)。
50%待验证国际象棋中'半人马'(人类+AI)模式曾在1990年代末至2000年代中期被视为棋类博弈的最优解,但随AlphaZero等自学习系统的出现,纯AI棋力迅速拉开与任何人类组合的差距,到2010年代该模式在顶级竞技中基本失去意义。
50%待验证AlphaZero证明了在规则明确、奖励可定义的领域,RL能从零学出超越人类的策略。
50%待验证RL的机制本身不提供目标生成的来源,AlphaZero的游戏空间是封闭的,奖励函数是固定的。
50%待验证PUCT(Predictive Upper Confidence bound applied to Trees)是 AlphaZero 系列算法中使用的一种树搜索策略,全称为 Predictor + UCT。
50%待验证METIS-Core 实现了原生运行的 AlphaZero 自对弈循环,其中蒙特卡洛树搜索(MCTS)以多线程方式在 C++ 中执行
50%待验证AlphaZero将同一套框架推广到国际象棋、将棋等多种博弈
50%待验证AlphaZero没有使用任何人类棋谱,仅通过4小时的自我对弈就超越了Stockfish
50%