概念NAS / Neural Architecture Search
神经架构搜索
神经架构搜索是一种用算法自动化地在预定义搜索空间中寻找最优神经网络结构的机器学习子领域,旨在替代研究者手工设计网络的耗时过程,兴起于2017年前后
核心事实
时间轴 (近 90 天)
10月21日
早期NAS计算成本极高,需要数百块GPU训练数万次;近年来的权重共享、渐进式搜索等方法已将成本大幅降低。
待验证50%
10月10日
神经架构搜索(NAS)的搜索过程本身需要消耗大量算力
待验证50%
9月27日
一篇综述论文的数据显示,在大约五年时间里NAS领域涌现出3000多个新提出的模型架构
待验证50%
9月27日
神经架构搜索(NAS)兴起于2017年前后,核心思想是用算法自动化地在预定义搜索空间中寻找最优神经网络结构
已验证75%
9月11日
早期NAS工作(如NASNet、DARTS)因搜索空间设计不透明,其发现的架构被证明很大程度上依赖特定代理任务和搜索预算
待验证50%
全部知识事实 (6)
已验证
神经架构搜索(NAS)兴起于2017年前后,核心思想是用算法自动化地在预定义搜索空间中寻找最优神经网络结构
75%已验证AutoML是将特征选择、模型选择、超参数调优等传统ML流程自动化的技术体系
65%待验证早期NAS计算成本极高,需要数百块GPU训练数万次;近年来的权重共享、渐进式搜索等方法已将成本大幅降低。
50%待验证神经架构搜索(NAS)的搜索过程本身需要消耗大量算力
50%待验证一篇综述论文的数据显示,在大约五年时间里NAS领域涌现出3000多个新提出的模型架构
50%待验证早期NAS工作(如NASNet、DARTS)因搜索空间设计不透明,其发现的架构被证明很大程度上依赖特定代理任务和搜索预算
50%