神经架构搜索的随机搜索和再现性
神经架构搜索(NAS)是一个很有前途的研究方向,有可能用自学习的、特定任务的架构取代专家设计的网络。为了帮助奠定该领域的实证结果,在论文《Random Search and Reproducibility for Neural Architecture Search》中,研究者提出了新的NAS基线,构建了以下观察结果:(1)NAS是一个专门的超参数优化问题;(2)随机搜索是超参数优化的竞争基线。利用这些观察结果,研究者在两种标准NAS基准 - PTB和CIFAR-10上评估了带有early-stopping 的随机搜索和带有权重共享算法的随机搜索。