环状扫描的强深度森林
2021-04-23周博文
计算机工程与应用 2021年8期
周博文,皋 军,,邵 星
1.江苏科技大学 计算机学院,江苏 镇江212003
2.盐城工学院 信息工程学院,江苏 盐城224002
神经网络算法因其强大的泛化能力和非线性映射能力而被人们所青睐,同时也存在着明显的不足,比如需要大量调参,才得以找到最合适的参数来发挥最大性能,而且需要大量的数据来训练模型。近年来,周志华老师提出的深度森林模型一定程度上避免了以上问题[1]。文献[1]的实验结果已经说明了深度森林的优越性能。
但是深度森林模型也存在不足:(1)在多粒度扫描阶段,每个特征子集是按照滑动窗口选取的,假设数据集总的特征维数为n,窗口大小为m,m>2,则窗口第一次滑动生成的特征子集是从第1维到第m维,窗口第二次滑动生成的特征子集是从第2 维到第m+1 维,显然,第一维的特征只被扫描了一次,第二维的特征被扫描了两次……最后一维同理仅被扫描到一次。只有第m维到第n-m+1 维,每一维的特征才可被充分扫描到。由此可以看出,原始模型的多粒度扫描阶段不能充分得到特征子集,忽略了数据两端子集所携带的信息,若被忽略的子集经转换后生成的新特征的重要度非常大,那么就势必会影响后续的级联阶段,随着级数的增加,这种影响会逐渐变大,最终降低深度森林模型的预测准确率。(2)在级联阶段,仅仅是把前一层级生成的类分布向量作为增强特征,没有重视之前级联层的类分布向量,会降低收敛速度,从而降低算法的效率。而且,每层概率携带的信息是逐层递减的,只将前一层的类概率向量拼接,模型的准确率提高有限。
登录APP查看全文
