One-Shot 神经网络搜索(NAS)的searching阶段到底在做什么?

One-Shot 神经网络搜索(NAS)的searching阶段到底在做什么?

两年下来,感觉NAS就是谷歌开的一个灌水的天坑方向。

主要坑在两点:

这导致了,很多实验难以复现,让我对自己的很多实验结果完全没有自信。好在他最近公布了一个数据集NASBench-101及时填补了这个坑,这也使得我们所有人可以去检验以前的作品。

这个数据集包含了由7个node,3个operation组成的cell stack的网络,共计423,624个model。

这就省去了我们所有train cifar的时间。

实验结果显示:

这个数据集还有很多很有意思的东西等着挖掘,我先去做实验了