APP下载

基于l1,2惩罚典型相关分析的特征选择

2019-10-21赵迎利王凯明肖玉柱宋学力

计算机应用与软件 2019年10期
关键词:惩罚特征方法

赵迎利 王凯明 肖玉柱 宋学力

(长安大学理学院 陕西 西安 710064)

0 引 言

从古至今,人们认识(学习)事物的渠道都是多样的。比如,对某疾病诊断,古代中医通过望、闻、问、切四种方式来了解患者;而现代的医生可以通过化验体液、B超、CT、核磁共振和脑电图等多种检查手段来采集患者的数据,以此了解患者的状况。以机器学习的观点,患者可以称为医生学习的一个样本,医生以不同方式采集到患者的数据称作样本的特征,不同的采集方式称为不同的模态。然而,高维特征的多模态数据中不可避免地会含有不相关和冗余的特征。事实上,在机器学习领域,这是一个普遍的现象。对于特定的学习任务,数据的真实维度[1]往往比采样数据的维度低得多[2]。所以,需要对样本特征的所在空间降维,防止维数灾难[3]或者过拟合。降维的方法大致可分为特征提取和特征选择两类。按照某种学习准则或者统计准则,最大可能地保留相关的特征,去除不相关或者冗余特征,这就是特征选择[4]问题。

特征选择的统计准则有很多,稀疏典型相关分析[5-6](Sparse canonical correlation analysis,SCCA)是一种通过提取具有最大相关性的典型相关变量,并且通过稀疏典型向量来实现特征选择的方法。 l1范数是稀疏典型向量的一种常用的具有凸性和连续性的正则化方法[7],文献[8]就是通过l1范数惩罚典型相关向量来实现特征选择。由于数据的群组信息是数据固有的系统机理信息或者满足某种统计信息的特征子集,所以在特征选择的任务里考虑特征的群组信息是必要而且重要的。……

登录APP查看全文

猜你喜欢

惩罚特征方法
神的惩罚
如何表达“特征”
不忠诚的四个特征
惩罚
用对方法才能瘦
四大方法 教你不再“坐以待病”!
真正的惩罚等
捕鱼
线性代数的应用特征
如此惩罚