NASH:基于丰富网络态射和爬山算法的神经网络架构搜索 | ICLR 2018 (2)

  由于使用了网络态射,子网继承了原网络的权重且性能一致,NASH方法优势在于能够很快的评估子网的性能,论文使用了简单的爬山算法,当然也可以选择其它的优化策略。

Experiments Baslines

NASH:基于丰富网络态射和爬山算法的神经网络架构搜索 | ICLR 2018

Retraining from Scratch

NASH:基于丰富网络态射和爬山算法的神经网络架构搜索 | ICLR 2018

CIFAR-10

NASH:基于丰富网络态射和爬山算法的神经网络架构搜索 | ICLR 2018

CIFAR-100

NASH:基于丰富网络态射和爬山算法的神经网络架构搜索 | ICLR 2018

CONCLUSION

  论文提出NASH方法来进行神经网络结构搜索,核心思想与之前的EAS方法类似,使用网络态射来生成一系列效果一致且继承权重的复杂子网,本文的网络态射更丰富,而且仅需要简单的爬山算法辅助就可以完成搜索,耗时0.5GPU day



如果本文对你有帮助,麻烦点个赞或在看呗~
更多内容请关注 微信公众号【晓飞的算法工程笔记】

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zzysdx.html