会员服务

【CVPR2021】神经结构搜索的相对论性评价

2021 年 3 月 25 日 专知
ReNAS: Relativistic Evaluation of Neural Architecture Search


https://www.zhuanzhi.ai/paper/d5394f35aef16fb3a4dca59d68fb1882


一个有效的神经网络结构性能评估方案是神经网络结构搜索(NAS)成功的关键。现有NAS算法通常在训练时间有限的小型数据集上训练和评估神经结构。但这样一种粗糙的评估方式很难对神经网络结构进行准确评估。本文提出一种新的神经网络结构评价方案，旨在确定哪个神经网络结构的性能更好，而不是精确地预测性能绝对值。因此，我们提出了一个结构相对性能预测NAS (ReNAS)。我们将神经结构编码为特征张量，并利用预测器进一步细化表示。本方法可用于离散搜索，无需额外评估。在NASBench101数据集上抽样424个(搜索空间的0.1%)神经架构及其标签已经足够学习一个准确的架构性能预测器。在NAS-Bench-101和NAS-Bench-201数据集上，我们搜索的神经结构的准确性高于最新的方法，显示了本方法的优先性。


 

专知便捷查看

便捷下载，请关注专知公众号（点击上方蓝色专知关注）

  • 后台回复“ReNAS” 就可以获取《【CVPR2021】神经结构搜索的相对论性评价f》专知下载链接

专知，专业可信的人工智能知识分发，让认知协作更快更好！欢迎注册登录专知www.zhuanzhi.ai，获取5000+AI主题干货知识资料！
欢迎微信扫一扫加入专知人工智能知识星球群，获取最新AI专业干货知识教程资料和与专家交流咨询！
点击“ 阅读原文 ”，了解使用 专知 ，查看获取5000+AI主题知识资源
登录查看更多
3

相关内容

【CVPR2021】利用神经网络结构比较器的对比神经网络结构搜索
专知会员服务
9+阅读 · 2021年5月18日
【WWW2021】面向时空图预测的神经结构搜索
【WWW2021】面向时空图预测的神经结构搜索
专知会员服务
23+阅读 · 2021年4月23日
【WWW2021】DGCN:利用图卷积网络进行多样化推荐
专知会员服务
37+阅读 · 2021年4月18日
【WWW2021】细粒度城市流量预测
专知会员服务
33+阅读 · 2021年4月6日
【CVPR2021】用随机标签的神经架构搜索
专知会员服务
12+阅读 · 2021年3月21日
【CVPR2021】坐标注意力的高效移动网络设计
专知会员服务
23+阅读 · 2021年3月9日
【CVPR2021】细粒度多标签分类
【CVPR2021】细粒度多标签分类
专知会员服务
61+阅读 · 2021年3月8日
【CVPR2021】自监督几何感知
【CVPR2021】自监督几何感知
专知会员服务
46+阅读 · 2021年3月6日
【AAAI2021】使用图卷积网络拟合权值共享神经结构搜索的搜索空间，提升神经结构搜索鲁棒性
【AAAI2021】使用图卷积网络拟合权值共享神经结构搜索的搜索空间，提升神经结构搜索鲁棒性
专知会员服务
10+阅读 · 2021年2月2日
《神经架构搜索NAS》最新进展综述
《神经架构搜索NAS》最新进展综述
专知会员服务
57+阅读 · 2020年8月12日
【CVPR2021】细粒度多标签分类
【CVPR2021】细粒度多标签分类
专知
44+阅读 · 2021年3月8日
【CVPR2021】半监督迁移学习的自适应一致性正则化
【CVPR2021】半监督迁移学习的自适应一致性正则化
专知
41+阅读 · 2021年3月7日
【ICLR2021】彩色化变换器，Colorization Transformer
【ICLR2021】彩色化变换器，Colorization Transformer
专知
12+阅读 · 2021年2月10日
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
13+阅读 · 2020年10月19日
KDD2020接受论文列表！338篇论文都在这了
KDD2020接受论文列表！338篇论文都在这了
专知
20+阅读 · 2020年6月26日
CVPR2020最新《小样本学习》综述教程，145页ppt带你学习最新FSL进展
CVPR2020最新《小样本学习》综述教程，145页ppt带你学习最新FSL进展
专知
40+阅读 · 2020年6月20日
【CVPR2020-北京大学】自适应间隔损失的提升小样本学习
【CVPR2020-北京大学】自适应间隔损失的提升小样本学习
专知
12+阅读 · 2020年6月9日
【快讯】KDD2020论文出炉，216篇上榜， 你的paper中了吗？
【快讯】KDD2020论文出炉，216篇上榜， 你的paper中了吗？
专知
11+阅读 · 2020年5月16日
【CVPR2020-旷视】DPGN：分布传播图网络的小样本学习
【CVPR2020-旷视】DPGN：分布传播图网络的小样本学习
专知
13+阅读 · 2020年4月1日
【Google-CMU】元伪标签的元学习，Meta Pseudo Labels
【Google-CMU】元伪标签的元学习，Meta Pseudo Labels
专知
48+阅读 · 2020年3月30日
Benchmarking Invertible Architectures on Inverse Problems
Arxiv
0+阅读 · 2021年6月22日
A novel hybrid methodology of measuring sentence similarity
Arxiv
0+阅读 · 2021年6月21日
Towards Clustering-friendly Representations: Subspace Clustering via Graph Filtering
Arxiv
0+阅读 · 2021年6月18日
ReNAS:Relativistic Evaluation of Neural Architecture Search
Arxiv
11+阅读 · 2021年3月10日
Image-to-image Translation via Hierarchical Style Disentanglement
Arxiv
8+阅读 · 2021年3月2日
DPGN: Distribution Propagation Graph Network for Few-shot Learning
Arxiv
12+阅读 · 2020年3月31日
Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Image Segmentation
Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Image Segmentation
Arxiv
5+阅读 · 2019年1月10日
DARTS: Differentiable Architecture Search
Arxiv
3+阅读 · 2018年6月24日
NeuRec: On Nonlinear Transformation for Personalized Ranking
Arxiv
5+阅读 · 2018年6月3日
Complex Relations in a Deep Structured Prediction Model for Fine Image Segmentation
Arxiv
7+阅读 · 2018年5月24日
VIP会员
相关主题
神经结构搜索
网络结构
神经网络结构搜索(NAS)
神经网络
搜索
CVPR
相关VIP内容
【CVPR2021】利用神经网络结构比较器的对比神经网络结构搜索
专知会员服务
9+阅读 · 2021年5月18日
【WWW2021】面向时空图预测的神经结构搜索
【WWW2021】面向时空图预测的神经结构搜索
专知会员服务
23+阅读 · 2021年4月23日
【WWW2021】DGCN:利用图卷积网络进行多样化推荐
专知会员服务
37+阅读 · 2021年4月18日
【WWW2021】细粒度城市流量预测
专知会员服务
33+阅读 · 2021年4月6日
【CVPR2021】用随机标签的神经架构搜索
专知会员服务
12+阅读 · 2021年3月21日
【CVPR2021】坐标注意力的高效移动网络设计
专知会员服务
23+阅读 · 2021年3月9日
【CVPR2021】细粒度多标签分类
【CVPR2021】细粒度多标签分类
专知会员服务
61+阅读 · 2021年3月8日
【CVPR2021】自监督几何感知
【CVPR2021】自监督几何感知
专知会员服务
46+阅读 · 2021年3月6日
【AAAI2021】使用图卷积网络拟合权值共享神经结构搜索的搜索空间，提升神经结构搜索鲁棒性
【AAAI2021】使用图卷积网络拟合权值共享神经结构搜索的搜索空间，提升神经结构搜索鲁棒性
专知会员服务
10+阅读 · 2021年2月2日
《神经架构搜索NAS》最新进展综述
《神经架构搜索NAS》最新进展综述
专知会员服务
57+阅读 · 2020年8月12日
热门VIP内容
相关资讯
【CVPR2021】细粒度多标签分类
【CVPR2021】细粒度多标签分类
专知
44+阅读 · 2021年3月8日
【CVPR2021】半监督迁移学习的自适应一致性正则化
【CVPR2021】半监督迁移学习的自适应一致性正则化
专知
41+阅读 · 2021年3月7日
【ICLR2021】彩色化变换器，Colorization Transformer
【ICLR2021】彩色化变换器，Colorization Transformer
专知
12+阅读 · 2021年2月10日
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
【NeurIPS 2020】核基渐进蒸馏加法器神经网络
专知
13+阅读 · 2020年10月19日
KDD2020接受论文列表！338篇论文都在这了
KDD2020接受论文列表！338篇论文都在这了
专知
20+阅读 · 2020年6月26日
CVPR2020最新《小样本学习》综述教程，145页ppt带你学习最新FSL进展
CVPR2020最新《小样本学习》综述教程，145页ppt带你学习最新FSL进展
专知
40+阅读 · 2020年6月20日
【CVPR2020-北京大学】自适应间隔损失的提升小样本学习
【CVPR2020-北京大学】自适应间隔损失的提升小样本学习
专知
12+阅读 · 2020年6月9日
【快讯】KDD2020论文出炉，216篇上榜， 你的paper中了吗？
【快讯】KDD2020论文出炉，216篇上榜， 你的paper中了吗？
专知
11+阅读 · 2020年5月16日
【CVPR2020-旷视】DPGN：分布传播图网络的小样本学习
【CVPR2020-旷视】DPGN：分布传播图网络的小样本学习
专知
13+阅读 · 2020年4月1日
【Google-CMU】元伪标签的元学习，Meta Pseudo Labels
【Google-CMU】元伪标签的元学习，Meta Pseudo Labels
专知
48+阅读 · 2020年3月30日
相关论文
Benchmarking Invertible Architectures on Inverse Problems
Arxiv
0+阅读 · 2021年6月22日
A novel hybrid methodology of measuring sentence similarity
Arxiv
0+阅读 · 2021年6月21日
Towards Clustering-friendly Representations: Subspace Clustering via Graph Filtering
Arxiv
0+阅读 · 2021年6月18日
ReNAS:Relativistic Evaluation of Neural Architecture Search
Arxiv
11+阅读 · 2021年3月10日
Image-to-image Translation via Hierarchical Style Disentanglement
Arxiv
8+阅读 · 2021年3月2日
DPGN: Distribution Propagation Graph Network for Few-shot Learning
Arxiv
12+阅读 · 2020年3月31日
Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Image Segmentation
Auto-DeepLab: Hierarchical Neural Architecture Search for Semantic Image Segmentation
Arxiv
5+阅读 · 2019年1月10日
DARTS: Differentiable Architecture Search
Arxiv
3+阅读 · 2018年6月24日
NeuRec: On Nonlinear Transformation for Personalized Ranking
Arxiv
5+阅读 · 2018年6月3日
Complex Relations in a Deep Structured Prediction Model for Fine Image Segmentation
Arxiv
7+阅读 · 2018年5月24日
大家都在搜
  1. PINN
  2. 蓝牙安全攻防
  3. 大型语言模型
  4. 扩散模型
  5. 人类控制
  6. 朱克爱德华兹家族
  7. WOS
  8. 国防科技创新
  9. 突防
  10. 精排模型-从MLP到行为序列：DIN、DIEN、MIMN、SIM、DSIN
    11.
Top
微信扫码咨询专知VIP会员
Top