包振山，秘博闻，张文博

(北京工业大学信息学部，北京 100124)

神经架构搜索(neural architecture search，NAS)[1]是一类使用计算机自动搜索神经网络架构的算法.如今，NAS已实现了在计算机视觉(computer vision，CV)领域内对于通用数据集(如ImageNet、COCO等)的高精度架构搜索[2-5].然而对于解决实际问题，却受到搜索耗时长、算力要求高等因素的制约，难以进行大规模应用.该问题已经成为NAS领域内的热门话题[6-7].经调研发现，NAS算法效率低下的主要原因来自于搜索初始化时的随机过程.该过程引起大量无效搜索，这些无效的网络结构导致了搜索效率的降低.为了减少初始化过程中的不稳定因素，本文提出一种优化方法：将基于人工经验的网络架构作为NAS搜索过程的起点，以降低初始化过程中的不稳定性.

基于人工经验的网络架构的优势在于面对领域内的经典问题已有成熟的解决方案[8-9].其可以取代NAS中随机的初始化过程，从而提高搜索效率.本工作将基于人工设计的经典网络架构VGG-11[10]作为自动化搜索的网络结构的起点.

NAS通常选取目标网络的准确率(在平均准确率较高时的错误率)以及搜索算法的耗时作为算法性能的评价指标.本文通过对目标数据集Cifar-10[11]的搜索，使用单张GTX 1080Ti作为计算单元，仅用时12 h，便搜索得到VGG-Lite架构，错误率仅为2.63%.该方法显著地提高了算法的搜索效率，这对NAS算法的普及有着重要的意义.

1 算法优化方法

1.1 NAS算法

神经架构搜索起源于2016年Zoph等[1]使用强化学习[12]算法进行自动化搜寻网络架构的工作，是自动……