第8章 特征的选择与提取(特征选择)

数据科学中的特征选择与特征提取方法探究特征选择与特征提取是数据科学中的重要步骤，它们对于机器学习模型的性能和效果起着至关重要的作用。

在本文中，我们将深入探讨特征选择与特征提取的方法，包括它们的定义、原理、应用场景和常见算法。

我们将重点介绍递归特征消除、主成分分析、线性判别分析等经典的特征选择和提取方法，并分析它们的优缺点以及适用的情况。

最后，我们还将介绍一些新兴的特征选择与提取方法，以及未来的发展趋势。

一、特征选择与特征提取的定义及意义特征选择与特征提取都是指将原始的特征数据进行处理，提取出其中最具代表性的特征，以便于构建更加精确的机器学习模型。

特征选择是指从原始特征中选择出最有效、最相关的特征，剔除掉噪声或不相关的特征，以提高模型的精度和泛化能力。

而特征提取则是指通过某种数学变换，将原始特征转化为一组新的特征，这些新的特征通常包含了原始特征中的大部分信息，但是具有更好的可分性。

特征选择与特征提取在数据科学中具有重要的意义。

首先，它可以提高模型的计算效率。

原始的特征数据通常包含了大量的噪声和冗余信息，特征选择与提取可以减少模型的维度，提高计算效率。

其次，它可以提高模型的泛化能力。

过多的特征会导致过拟合，特征选择可以避免这种情况的发生。

特征提取则可以提高特征的可分性，使模型更容易捕捉到数据的本质特征。

最后，它可以提高模型的解释性。

经过特征选择与提取后的特征更具代表性，可以更好地解释数据。

二、特征选择的方法1. Filter方法Filter方法是通过对每个特征进行单独的统计检验，然后根据统计指标进行特征排序，选取排名靠前的特征。

常用的统计指标包括卡方检验、互信息、相关系数等。

Filter方法简单高效，计算速度快，但是它忽略了特征之间的关联性，可能选取出相关性较弱的特征。

2. Wrapper方法Wrapper方法是利用训练好的机器学习模型来评估特征的重要性，然后根据其重要性进行特征选择。

常用的Wrapper方法包括递归特征消除、正向选择和反向选择等。

第八讲特征提取和特征选择一、基本概念1、特征的生成（1）原始特征的采集和转换通过对原始特征的信号采集，获得样本的原始表达数据，从原始数据中选择或计算出对分类任务有用的原始特征，并转换成可用的形式原始数据：像素点RGB值矩阵可用的原始特征：轮廓特征颜色特征纹理特征数学特征（2）有效特征的生成目的：降低特征维数，减少信息冗余提升特征的有效性方法：特征提取：提高特征对类别的分辨能力特征选择：寻找对分类最重要的特征 2、 特征提取通过某种变换，将原始特征从高维空间映射到低维空间。

A ：X →Y ； A 为特征提取器，通常是某种正交变换。

最优特征提取：J(A*)=max J(A)， J 是准则函数3、 特征选择从一组特征中挑选出一些最有效的特征，以达到降低特征空间维数的目的。

Dd d i S y y y y F x x x S i d D <=∈→;,...,2,1,},......,,{:},......,,{:2121原始特征集合S 中包含D 个特征，目标特征集合F 中包含d 个特征；最优特征选择：J(F*)=max J(F)， J 是准则函数 4、 准则函数的选取（1） 准则函数的选取原则分类正确率是最佳的特征提取和特征选择准则函数，但难以计算。

实用的类别可分性准则函数应满足以下要求：与分类正确率有单调递增关系当特征独立时具有可加性：∑==dk kijd ij x J x x x J 1)()...21，，，（具有标量测度特性：⎪⎩⎪⎨⎧===≠>ji ij ij ij J J j i J j i J 时，当时，当00对特征具单调性：)...)...12121＋，，，，（，，，（ddijdij xxxxJxxxJ<（2）类内类间距离是各类的先验概率。

，中的样本数，为中的样本数，为），（：值，称为类内类间距离向量之间的距离的平均离，则各类中各特征）为这两个向量间的距，（特征向量，维类中的类及分别为，类，令设一个分类问题共有定义：jijjiinknljlikci jicjjidjlikjijlikPPnnxxnnPPxJxxxxai jωωδδωω∑∑∑∑=====1111121)()()()()()()(Dc.例：∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑∑================⨯⨯⨯⨯⨯⨯⨯⨯========2121222221311212312121213131111111212121211111221213212123121331211212340602121k l l k k l l k k l l k k l l k n k n l j l i k i ji j jid n k n l j l i k c i ji cj jid x xP P x xP P x x P P x x P P x x n n P P x J n n P P c x x n n P P x J ijij），（＋），（＋），（＋），（），（），（)()()()()()()()()()()()()(,,.,.,)(δδδδδδ对于随机性统计分类，类内类间距离和分类错误率不相关 b.类内类间距离的分解()()()()()()()()m m m mn P m xm xn P m m m m m x m x n P x J mP m m x m i m x x x x x x i Tici ii n k i i kTii kic i in k i Ti i i kTii kici i d ci ii n k i k n i i j l i k j l i k j l i k iiii--+--=⎥⎥⎦⎤⎢⎢⎣⎡--+--===∑∑∑∑∑∑∑=======11111111111)()()()()()()(T )()()()( )( : 则总均值向量：表示所有各类样本集的用类样本集的均值向量表示第用）－（）－）＝（，（则有的距离，度量两个特征向量之间如采用均方欧氏距离来δ()()()()()bw b w b w d Ti ic i ib n k Tii kii kici iw J J S tr S tr S S tr x J m m m mP S m x m x n P S i+=+=+=--=--=∑∑∑===)()( )( )()(则间离散度矩阵分别为令类内离散度矩阵和类1111Jw 称为类内平均距离，Jb 称为是类间平均距离从类别可分性的要求来看，希望Jw 尽可能小， Jb 尽可能大 （3） 概率距离类间的概率距离可用分布函数之间的距离来度量完全可分：若p(x|ω1) ≠0时， p(x|ω2)＝0；完全不可分：对任意x ，都有 p(x|ω1) ＝ p(x|ω2)；性的概率距离度量则可作为两类之间可分；为、当两类完全不可分是取得最大值；、当两类完全可分时；、满足以下条件：若任何函数0c b 0a ],),|(),|([)(p p p p J J J dx P P x p x p g J ≥=∙⎰2121ωω二、 使用类内类间距离进行特征提取1、 准则函数的构造：类内类间距离为：Jd=Jw+Jb ＝tr （Sw ＋Sb)其中Jw 是类内平均距离，Jb 是类间平均距离通常给定一个训练集后，Jd 是固定的，在特征提取时，需要加大Jb ，减小Jw ，来获得满意的分类效果。

第五章 特征选择与特征提取5.1 问题的提出前面主要介绍的是各种分类器的设计方法，实际上我们已经完全可以解决模式识别的问题了。

然而在实际应用中，在分类器设计之前，往往需要对抽取出的特征进行一下处理，争取尽量减小特征的维数。

在实践中我们发现，特征的维数越大，分类器设计的难度也越大，一维特征的识别问题最容易解决，我们只要找到一个阈值t ，大于t 的为一类，小于t 的为一类。

同时特征维数越大，要求的训练样本数量越多，例如在一维的情况下，10个训练样本就可以比较好的代表一个类别了，而在10维空间中，10个训练样本则是远远不够的。

这一章中我们就来介绍一下减小特征维数的方法。

一般来说模式识别系统的输入是传感器对实物或过程进行测量所得到的一些数据，其中有一些数据直接可以作为特征，有一些数据经过处理之后可以作为特征，这样的一组特征一般称为原始特征。

在原始特征中并不一定每个特征都是有用的，比如在识别苹果和橙子的系统中，我们可以抽取出的特征很多，（体积，重量，颜色，高度，宽度，最宽处高度），同样还有可能抽取出其它更多的特征。

在这些特征中对分类有用的是（颜色，高度，最宽处高度），其它特征对识别意义不大，应该去除掉。

这样的过程称为是特征选择，也可以称为是特征压缩。

特征选择可以描述成这样一个过程，原始特征为N 维特征()12,,,TN x x x =X ，从中选择出M 个特征构成新的特征矢量()11,,,MTi i i Y x x x =，M N <。

同时，特征矢量的每一个分量并不一定是独立的，它们之间可能具有一定的相关性，比如说高度和最宽处的高度，高度值越大，最宽处的高度值也越大，它们之间具有相关性，我们可以通过一定的变换消除掉这种相关性，比如取一个比值：最宽处的高度/高度。

这样的过程称为特征提取。

特征提取可以描述为这样一个过程，对特征矢量()12,,,TN x x x =X 施行变换：()i i y h =X ，1,2,,i M =，M N <，产生出降维的特征矢量()12,,,TM Y y y y =。

特征提取与特征选择
1.特征提取
特征提取，通常称为特征工程，是指从数据集中提取有助于建模、分析过程和预测结果的特征，是机器学习和深度学习的基础，是实现有效机器学习和深度学习模型的关键环节。

特征提取的主要目的是从原始数据中提取出有价值的特征，从而提升模型的精确度。

特征提取的方法主要有：
1）非监督学习：非监督学习通过聚类、主成分分析（PCA）、奇异值分解、独立成分分析（ICA）等方法从原始数据中提取出有价值的特征。

2）监督学习：监督学习可以通过特征选择，递归特征消除（RFE），基于权重的统计特征选择和基于函数的特征选择等方法从原始数据中提取出有价值的特征。

2.特征选择
特征选择是指从原始数据中选择具有预测性的特征，以便提高模型有效性。

特征选择有助于减少过拟合，进而提高模型准确性。

特征选择的方法主要有：
1）特征选择：特征选择可以使用过滤法（Filter），包括单变量统计，相关性，卡方，信息增益等方法，也可以使用包裹法（Wrapper），包括递归特征消除（RFE），贪心，粒子群优化等方法，还可以使用嵌入法（Embedded），包括 L1正则化，L2正则化等方法。

特征选择与特征提取的比较在机器学习中，特征选择和特征提取是两个非常重要的概念。

它们可以帮助我们从原始数据中提取出最相关的特征，用于训练模型并做出预测。

本文将探讨特征选择和特征提取的比较，并分析它们各自的优缺点。

一、特征选择特征选择是指从原始特征集中选择最有用的特征子集。

这种方法的目的是降低特征维度，从而减少训练时间和提高模型准确性。

特征选择有三种常见的方法：1.过滤式特征选择过滤式特征选择方法通过计算每个特征和目标变量之间的相关性来选择有用的特征。

这些特征可以在训练模型之前进行筛选，并且与特定模型无关。

过滤式特征选择的优点是计算速度快，但也有一些缺点，例如无法处理特征之间的复杂关系。

2.包装式特征选择包装式特征选择方法会使用给定模型来评估每个特征的重要性。

这种方法通过不断调整模型来选择最佳特征子集。

包装式特征选择的优点是可以处理特征之间的复杂关系，但计算时间较长。

3.嵌入式特征选择嵌入式特征选择方法与包装式特征选择非常相似，但是它们会将选定的特征直接嵌入到模型中。

这种方法可以帮助模型更加精确地理解数据，但也需要更长的训练时间。

特征选择的优点是可以减少特征集的大小并提高模型的准确性。

但它也有缺点，例如可能会导致信息损失和对特定模型的依赖性。

二、特征提取特征提取是将原始数据转换为可用于机器学习的特征集的过程。

这些特征通常由更高层次的信息组成，其目的是让模型更容易理解数据并做出准确的预测。

主要有两种特征提取方法：1.基于深度学习的特征提取深度学习是一种可用于特征提取的强大工具。

它可以自动发现数据中的模式和规律，并在此基础上提取出相关的特征。

这些特征通常被用于训练分类器和预测模型。

2.基于统计学的特征提取基于统计学的特征提取方法通常用于处理分类或聚类问题。

这种方法通过计算数据中的各种统计值来提取有用的特征，例如平均值、标准差、偏度和峰度等。

特征提取的优点是可以帮助模型更好地理解数据，并提高模型的准确性。