黄卫华

（文山学院 数学学院，云南 文山 663099）

知识库中的信息测度

黄卫华

（文山学院 数学学院，云南 文山 663099）

在粗糙集理论中，基于度量决策表中属性重要性大小的需要，有学者提出了互补信息熵的概念。在此基础上，定义了条件熵和互信息等概念，并验证了三者之间的关系，即互补信息熵是条件熵与互信息的和；类似于互补信息熵，互信息同样具有单调性。

信息测度；互补信息熵； 条件熵；互信息

1948年美国数学家ShannonC.E在《贝尔系统技术》杂志上发表了一篇“通信的数学理论”的论文，该论文的发表标志一门新的学科──信息论的诞生。在这篇论文中，Shannon定义了信息熵，给出了关于信息系统实际结构的不确定性度量，并成功应用于许多不同的研究领域。一些学者利用Shannon熵的定义以及Shannon熵的变式度量了粗糙集理论的不确定性[1-7]。梁吉业[8]等定义了粗糙集理论的互补信息熵，并验证该信息熵具有单调性，本文在此基础上定义了条件熵和互信息，给出了三者之间的关系。

1　预备知识

定义1[9]设K=(U, R)是一个近似空间，U是一个非空有限论域，R是U上的一个等价关系，U/R={X1, X2…Xm}表示R的所有等价类构成的集合，[x]R表示包含元素x∈U的R等价类。特别地，U的划分(U)={{x}|x∈U}称为恒等关系，划分Ř(U)={U}称为全域关系。一个近似空间K=(U, R)可以看作是一个关于U的知识库。

定义2[9]给定知识库K=(U, R)，对于每一个KU，一个等价关系R，定义两个子集

分别称它们为X的R上近似集和R下近似集。

定义3[10]设K=(U, R)是一个近似空间，P, Q是U的两个划分，U/P={P1, P2…, Pm}，U/Q={Q1, Q2…, Qn},如果对于任意的Xi∈U/P，均有Yj∈U/Q，使得XiYj，称U/P是U/Q的加细，记作U/PU/Q。……