VALSE 论文速览 第39期：基于搜索空间演进的网络结构搜索

论文题目：基于搜索空间演进的网络结构搜索

作者列表：次元政 (悉尼大学)，林宸 (牛津大学)，孙明 (商汤科技)，陈博宇 (悉尼大学)，张鸿文 (中科院自动化所)，欧阳万里 (悉尼大学)

B站观看网址：

https://www.bilibili.com/video/BV11u411U7eq/

论文摘要：

神经网络结构设计的自动化一直作为一个目标来替代人类专家设计网络结构。许多网络结构索方法旨在于搜索空间中找到最佳网络结构。当搜索空间变大时，人们会期望搜索结果会有所改善，因为它可能包含更多的高性能候选结构。意外的是，我们观察到扩大搜索空间对现有的神经网络结构搜索 (NAS)方法无益甚至有害。这种现象表明，将现有方法用于大型搜索空间情景并非易事。然而，这个问题在现有文献中讨论较少。

本文提出了一种网络搜索空间演进 (NSE) 模式，这是第一个专为大空间网络结构搜索问题设计的网络结构搜索模式。一个设计良好且大小受限的搜索空间的必要性是现有方法的潜在要求，本文提出的 NSE 旨在最小化这种必要性。具体来说，NSE 从搜索空间子集开始，然后通过重复两个步骤来演化搜索空间：1) 在搜索空间子集中优化搜索空间，2) 于未遍历过的操作中采样重新填充该子集。本文通过引入可学习的多分支结构进一步扩展了可得架构的灵活性。本文所提出的方法在 ImageNet 上大幅度地减少了人为地对NAS搜索空间进行设计的必要性，同时取得了更好的结果。

论文信息：

[1] Yuanzheng Ci, Chen Lin, Ming Sun, Boyu Chen, Hongwen Zhang, and Wanli Ouyang. Evolving search space for neural architecture search. In Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), pages 6659–6669, October 2021.

论文链接：

[https://openaccess.thecvf.com/content/ICCV2021/papers/Ci_Evolving_Search_Space_for_Neural_Architecture_Search_ICCV_2021_paper.pdf]

代码链接：

[https://github.com/orashi/NSE_NAS]

视频讲者简介：

次元政，悉尼大学博士生，导师为欧阳万里教授，研究方向为网络结构搜索，自监督学习。

特别鸣谢本次论文速览主要组织者：

月度轮值AC：董宣毅 (Amazon)、谢凌曦 (华为数字技术有限公司)

季度责任AC：许永超 (武汉大学)