基于方差的新定义连续信息熵性质的研究
孙波;陈光;
摘要(Abstract):
信息熵作为信息的度量,是信息理论的基本量之一。信息熵分为离散信息熵和连续信息熵。连续信息熵,又称为微分熵H_S,由于其不满足量纲一致性原则,也不具有非负性和坐标变换不变等性质,因此实际上并不能构成一种良好的信息度量。本文分析讨论了White提出的基于连续随机变量均方差的改进的连续信息熵H_W。比较分析了H_W的数学和物理性质及其取值不确定性参数的物理意义。
关键词(KeyWords): 信息熵;差熵;连续分布;不确定性参数
基金项目(Foundation): 国家自然科学基金(60503009)的资助
作者(Author): 孙波;陈光;
Email:
DOI:
参考文献(References):
- [1]C.E.SHANNON.The Mathematical Theory Of Communication[J].Bell System Technical Journal.27,1948:35-38.
- [2]朱雪龙.应用信息论基础[M].北京:清华大学出版社.2001:11-13.
- [3]WHITE Harold.The Entropy Of A Continuous Distribution[J].Bulletin of Mathematical Biophysics.1965,Vol27,Special Issue:135-143.
- [4]谈庆明.量纲分析[M].合肥:中国科学技术大学出版社.2005:29-26.