在人工智能时代,深度学习已经在诸多方面有了广泛的应用,然而,神经网络黑盒本质使得人们难以理解这个复杂的系统。为了打开这一黑盒,目前,对神经网络的「解释」不仅需要在视觉概念的层面“实验观察”特征的语义,更需要“理论解释并建模”神经网络的表达能力,从而打通“直觉上的语义”与“数学建模表达能力”之间的壁垒。

基于此,本项研究提出了一种对神经网络中层“特征复杂度”的通用量化指标,这一方法能够将神经网络中层特征拆分成不同阶次的复杂度分量。通过对不同复杂度特征分量的可视化,人们可以更清晰地分析不同复杂度分量的语义;同时,本研究也提出了数学指标以分析不同复杂度分量的可靠性、有效性、以及过拟合程度。作为一种通用指标,本项研究也可以为深度学习中的一些经典方法提供全新角度的解释。

成为VIP会员查看完整内容
25

相关内容

专知会员服务
25+阅读 · 2021年7月31日
专知会员服务
23+阅读 · 2021年6月22日
专知会员服务
50+阅读 · 2021年6月2日
专知会员服务
30+阅读 · 2021年2月26日
【WWW2021】用优化框架解释和统一图神经网络
专知会员服务
45+阅读 · 2021年2月1日
【GNN】深度学习之上,图神经网络(GNN )崛起
产业智能官
16+阅读 · 2019年8月15日
特征方程的物理意义
算法与数学之美
6+阅读 · 2019年5月13日
博客 | 「特征工程」与「表示学习」
AI研习社
7+阅读 · 2018年9月9日
DNN在搜索场景中的应用
机器学习算法与Python学习
8+阅读 · 2018年6月7日
VIP会员
相关VIP内容
专知会员服务
25+阅读 · 2021年7月31日
专知会员服务
23+阅读 · 2021年6月22日
专知会员服务
50+阅读 · 2021年6月2日
专知会员服务
30+阅读 · 2021年2月26日
【WWW2021】用优化框架解释和统一图神经网络
专知会员服务
45+阅读 · 2021年2月1日
相关资讯
【GNN】深度学习之上,图神经网络(GNN )崛起
产业智能官
16+阅读 · 2019年8月15日
特征方程的物理意义
算法与数学之美
6+阅读 · 2019年5月13日
博客 | 「特征工程」与「表示学习」
AI研习社
7+阅读 · 2018年9月9日
DNN在搜索场景中的应用
机器学习算法与Python学习
8+阅读 · 2018年6月7日
微信扫码咨询专知VIP会员