• 主题
高级搜索  >
历史搜索 清空历史
首页> 外文会议>Annual Allerton Conference on Communication, Control, and Computing; 20040929-1001; Monticello,IL(US) >Redundancy Rates of Slepian-Wolf Coding
【24h】

Redundancy Rates of Slepian-Wolf Coding

机译：Slepian-Wolf编码的冗余率

获取原文
获取原文并翻译 | 示例
页面导航
  • 摘要
  • 著录项
  • 相似文献
  • 相关主题

摘要

The results of Shannon theory are asymptotic and do not reflect the finite codeword lengths used in practice. Recent progress in design of distributed source codes, along with the need for distributed compression in sensor networks, has made it crucial to understand how quickly distributed communication systems can approach their ultimate limits. Slepian and Wolf considered the distributed encoding of length-n sequences x and y. If y is available at the decoder, then as n increases x can be encoded losslessly at rates arbitrarily close to the conditional entropy H(X|Y). However, for any finite n there is a positive probability that x and y are not jointly typical, and so x cannot be decoded correctly. We examine a Bernoulli setup, where x is generated by passing y through a binary symmetric correlation channel. We prove that the finite n requires us to increase the rate above the conditional entropy by K(ε)/ n~(1/2), where ε is the probability of error. We also study the cost of universality in Slepian-Wolf coding, and propose a universal variable rate scheme wherein the encoder for x receives P_Y = 1 ∑_i y_i. for P_Y < 0.5, our redundancy rate is K'(ε)~(1/2) above the empirical conditional entropy. When |P_Y - 0.5| = O(n~(-1/6)), K'(ε) = Ω(n~(1/6)), and another scheme with redundancy rate O(n~(-1/3)) should be used. Our results indicate that the penalties for finite n and unknown statistics can be large, especially for P_Y ≈ 0.5.
机译：香农理论的结果是渐近的，不能反映实际使用的有限码字长度。分布式源代码设计的最新进展，以及对传感器网络中分布式压缩的需求，使得了解分布式通信系统能够以多快的速度达到其最终极限至关重要。 Slepian和Wolf考虑了长度为n的序列x和y的分布式编码。如果y在解码器中可用，则随着n的增加，x可以以任意接近条件熵H（X | Y）的速率进行无损编码。但是，对于任何有限的n，x和y都不是典型的正概率，因此x不能正确解码。我们检查了伯努利设置，其中x是通过将y通过二进制对称相关通道来生成的。我们证明了有限n要求我们将速率增加到条件熵以上K（ε）/ n〜（1/2），其中ε是错误的概率。我们还研究了Slepian-Wolf编码中通用性的代价，并提出了一种通用可变速率方案，其中x的编码器接收P_Y = 1 / n ∑_i y_i。当P_Y <0.5时，我们的冗余率比经验条件熵高K'（ε）/ n〜（1/2）。当| P_Y-0.5 | = O（n〜（-1/6）），K'（ε）=Ω（n〜（1/6）），并且应该使用另一种冗余度为O（n〜（-1/3））的方案。我们的结果表明，有限n和未知统计量的惩罚可能很大，尤其是对于P_Y≈0.5。

著录项

相似文献

  • 外文文献
  • 中文文献
  • 专利
获取原文

客服邮箱：kefu@zhangqiaokeyan.com

京公网安备：11010802029741号 ICP备案号：京ICP备15016152号-6 六维联合信息科技 (北京) 有限公司©版权所有

  • 客服微信

  • 服务号