率熵函数
2021-12-21徐大专
徐大专,刘 甜
(南京航空航天大学电子信息工程学院,南京 211106)
引 言
率失真函数是信源编码的理论下界,已成为信源数据压缩的理论基础。率失真的思想最早来源于香农在1948年发表的经典论文[1]。不久后,前苏联的Kolmogorov[2]在1956年开始发展率失真理论。Shannon于1959年系统地阐述了率失真理论[3],并证明了第一率失真定理。对于更一般的信源,Berg‑er[4‑5]完善了信息率失真理论和限失真的信源编码定理。1972年,Blahut[6]将计算信道容量的迭代算法成功地用于计算离散信源的率失真函数。
随着通信网络、特别是移动通信技术的进步,率失真理论也在向网络化方向发展。在分布式信源编码方面,最经典的结果是Berger[7]和Tung[8]给出的内界。尽管Berger‑Tung问题到目前为止仍然维持开放,但其中部分问题已经得到解决。在汉明失真条件下,Slepian和Wolf[9]、Ahlswede和Korner[10]、Wyner[11]给出不同情形下的可达码率区域。Berger和Yeung[12]则给出更一般的解。
针对均方失真条件下的高斯信源,Oohama[13]给出带边信息的率失真区域。针对Berger等提出的编码器不能直接观测到信源,而只能观测受到噪声干扰信源的CEO(Chief executive officer)问题,Prab‑hakaran等[14]、Oohama[15]分别独立地得到高斯CEO问题的率失真区域。Wagner等[16]进一步解决了带边信息的CEO问题,从而,最终完全解决了高斯Berger‑Tung问题。东南大学的徐寅飞[17]在其博士论文中解决了迹失真约束下的向量高斯CEO问题。
目前,关于限失真信源编码的率失真函数理论尚存在一些问题没有解决。首先,率失真函数本质上是一个约束变分问题,求解本身较为复杂,目前只有为数不多的信源可求得率失真函数的闭式解。……
