The quadratic decaying property of the information rate function states that given a fixed conditional distribution $p_{\mathsf{Y}|\mathsf{X}}$, the mutual information between the random variables $\mathsf{X}$ and $\mathsf{Y}$ decreases at least quadratically in the distance as $p_\mathsf{X}$ moves away from the capacity-achieving input distributions. It is a fundamental property of the information rate function that is particularly useful in the study of higher order asymptotics and finite blocklength information theory, where it was first used by Strassen [1] and later, more explicitly, Polyanskiy-Poor-Verd\'u [2], [3]. Recently, while applying this result in our work, we were not able to close apparent gaps in both of these proofs. This motivates us to provide an alternative proof in this note.


翻译:信息速率函数的二次衰减属性表示, 根据固定的有条件分配 $p ⁇ mathsf{Y ⁇ mathsf{X ⁇ $, 随机变量 $\mathsf{X} $ 和 $\mathsf{Y} 之间的相互信息在距离上至少递减四进制, 因为 $p ⁇ mathsf{X} 移动了实现输入分布的能力。 这是信息速率函数的一个基本属性, 在研究更高排序的无序和有限区段信息理论中特别有用, Strassen首先使用这个属性[1],后来更明确地说, Polyanskiy- Poor-Verd\'u [2], [3]。 最近, 在应用这个结果时, 我们无法弥补这两个证据的明显差距。 这促使我们在本注释中提供替代证据。

0
下载
关闭预览

相关内容

《计算机信息》杂志发表高质量的论文,扩大了运筹学和计算的范围,寻求有关理论、方法、实验、系统和应用方面的原创研究论文、新颖的调查和教程论文,以及描述新的和有用的软件工具的论文。官网链接:https://pubsonline.informs.org/journal/ijoc
专知会员服务
162+阅读 · 2020年1月16日
强化学习最新教程,17页pdf
专知会员服务
182+阅读 · 2019年10月11日
【ICIG2021】Latest News & Announcements of the Workshop
中国图象图形学学会CSIG
0+阅读 · 2021年12月20日
【ICIG2021】Check out the hot new trailer of ICIG2021 Symposium3
中国图象图形学学会CSIG
0+阅读 · 2021年11月9日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Arxiv
0+阅读 · 2022年10月17日
Arxiv
0+阅读 · 2022年10月14日
VIP会员
相关资讯
【ICIG2021】Latest News & Announcements of the Workshop
中国图象图形学学会CSIG
0+阅读 · 2021年12月20日
【ICIG2021】Check out the hot new trailer of ICIG2021 Symposium3
中国图象图形学学会CSIG
0+阅读 · 2021年11月9日
Hierarchically Structured Meta-learning
CreateAMind
27+阅读 · 2019年5月22日
Transferring Knowledge across Learning Processes
CreateAMind
29+阅读 · 2019年5月18日
A Technical Overview of AI & ML in 2018 & Trends for 2019
待字闺中
18+阅读 · 2018年12月24日
相关基金
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2013年12月31日
国家自然科学基金
0+阅读 · 2012年12月31日
国家自然科学基金
0+阅读 · 2008年12月31日
Top
微信扫码咨询专知VIP会员