This work proposes an algorithmic framework to learn time-varying graphs from online data. The generality offered by the framework renders it model-independent, i.e., it can be theoretically analyzed in its abstract formulation and then instantiated under a variety of model-dependent graph learning problems. This is possible by phrasing (time-varying) graph learning as a composite optimization problem, where different functions regulate different desiderata, e.g., data fidelity, sparsity or smoothness. Instrumental for the findings is recognizing that the dependence of the majority (if not all) data-driven graph learning algorithms on the data is exerted through the empirical covariance matrix, representing a sufficient statistic for the estimation problem. Its user-defined recursive update enables the framework to work in non-stationary environments, while iterative algorithms building on novel time-varying optimization tools explicitly take into account the temporal dynamics, speeding up convergence and implicitly including a temporal-regularization of the solution. We specialize the framework to three well-known graph learning models, namely, the Gaussian graphical model (GGM), the structural equation model (SEM), and the smoothness-based model (SBM), where we also introduce ad-hoc vectorization schemes for structured matrices (symmetric, hollows, etc.) which are crucial to perform correct gradient computations, other than enabling to work in low-dimensional vector spaces and hence easing storage requirements. After discussing the theoretical guarantees of the proposed framework, we corroborate it with extensive numerical tests in synthetic and real data.


翻译:这项工作提议了一个从在线数据中学习时间变化图的算法框架。 框架所提供的一般性使得它具有模型独立性, 也就是说, 它可以在抽象的公式中进行理论上的分析, 然后在各种模型依赖的图形学习问题下进行即时分析。 它的用户定义的循环更新使得框架能够在非静止环境中运作, 而迭代算法则建立在新的时间变化优化工具上, 明确考虑到时间变化动态, 加速趋同, 隐含解决方案的时序变正化。 我们将框架专门用于三种众所周知的图表学习模型, 即, 由数据驱动的图表学习算法(如果不是全部的话) 通过经验变异矩阵对数据的依赖性算法, 代表了对估算问题的充分统计。 用户定义的循环更新使得框架能够在非静止环境中工作, 而迭接式算法则是在新的时间变化优化工具上明确考虑到时间变化动态, 加速趋同, 并隐含了解决方案的时序。 我们将框架专门用于三种众所周知的图表学习模型模型模型, 即, 数字图形模型( GGGGM) 的图表模型(GGM), 和 结构结构模型的计算模型是, 模型是用于我们进行 的平整级的基的,,, 结构的计算模型, 结构的计算模型是, 结构的平流的计算模型,,, 结构的平流的计算模型,,, 结构的计算模型, 结构的计算模型, 模型, 结构的计算模型, 结构的模型,, 结构的计算模型是,,, 结构模型是,, 结构模型,, 结构模型是,,,,,, 结构的模型是,,, 结构的计算模型, 结构的模型, 结构的模型是, 模型, 模型是, 结构的 模型,, 结构的 结构的 结构的 模型是, 结构的模型是, 结构的模型是, 模型是, 结构的 结构的 结构的 模型是,我们的 结构的 的,,,,, 的,,, 结构的 结构的 结构的 结构的 结构的

0
下载
关闭预览

相关内容

不可错过!《机器学习100讲》课程,UBC Mark Schmidt讲授
专知会员服务
76+阅读 · 2022年6月28日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
【哈佛大学商学院课程Fall 2019】机器学习可解释性
专知会员服务
105+阅读 · 2019年10月9日
AIART 2022 Call for Papers
CCF多媒体专委会
1+阅读 · 2022年2月13日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
CreateAMind
43+阅读 · 2019年1月3日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Arxiv
23+阅读 · 2022年2月24日
Arxiv
35+阅读 · 2020年1月2日
VIP会员
相关资讯
AIART 2022 Call for Papers
CCF多媒体专委会
1+阅读 · 2022年2月13日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
Unsupervised Learning via Meta-Learning
CreateAMind
43+阅读 · 2019年1月3日
disentangled-representation-papers
CreateAMind
26+阅读 · 2018年9月12日
相关论文
Arxiv
23+阅读 · 2022年2月24日
Arxiv
35+阅读 · 2020年1月2日
相关基金
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2011年12月31日
国家自然科学基金
0+阅读 · 2009年12月31日
Top
微信扫码咨询专知VIP会员