吴 笛，刘 文

(武汉理工大学理学院，湖北武汉 430070)

概率密度估计既是传统的概率论与数理统计的重点，也是统计学习理论的重要研究内容［1］。在解决统计学习问题的传统模式中，模式识别和回归估计都建立在密度估计的基础之上［2］。且概率密度估计在实际中有广泛的应用，如电子器件寿命估计和排队论等。但在实际应用中很多时候并不知道概率密度的分布，这时可根据样本点进行回归分析得到实际概率密度的一个近似估计。目前的概率密度估计方法主要分为参数估计和非参数估计两大类。参数估计方法具有较大的局限性，其前提是已知数据密度符合某种分布，但问题在于如何确定密度函数中的参数，这种方法强烈依赖于前提假设，一旦假设错误，估计值就无法较好地反映真实值。非参数估计具有更广的应用范围，并且已经得到了广泛研究，提出了核估计和近邻估计等方法。然而上述方法需要用到所有的训练样本以估计出概率密度，当训练样本非常多时，计算量非常大并不实用［3］。长期以来，人们希望寻求一种既可减少计算量又可保持估计精度的求解方法。正则化理论［4］的引入较好地解决了这一问题，利用惩罚项来得到偏移-方差平衡，防止概率密度过度拟合的发生。笔者将概率密度的估计转化成一类线性算子方程问题的求解，并根据算子方程核矩阵奇异值的性质，构建了概率密度估计的TSVD正则化方法［5-7］，同时将其与估计概率密度的K+线性Bregman迭代正则化方法［8-10］进行比较分析。……