前言：人工智能机器学习有关算法内容，人工智能之机器学习主要有三大类：1）分类；2）重返；3）聚类。今天我们重点探究一下PCA算法。PCA（主成分分析）是十大经典机器学习算法之一。PCA是Pearson在1901年明确提出的，后来由Hotelling在1933年加以发展明确提出的一种多变量的统计资料方法。

对于维数较为多的数据，首先必须做到的事就是在尽可能保证数据本质的前提下将数据中的维数减少。降维是一种数据集预处理技术，往往在数据应用于在其他算法之前用于，它可以去杀掉数据的一些校验信息和噪声，使数据显得更为非常简单高效，从而构建提高数据处理速度的目的，节省大量的时间和成本。

降维也沦为了应用于十分普遍的数据预处理方法。目前处置降维的技术有很多种，如SVD无法解释值分解成，主成分分析（PCA），因子分析（FA），独立国家成分分析（ICA）等。

今天重点讲解主成分分析（PCA）。PCA（主成分分析）算法目的是在“信息”损失较小的前提下，将高维的数据切换到较低维，通过lambda主成分展现出的仅次于的个别差异，也可以用来缩减重返分析和聚类分析中变量的数目，从而增大计算出来量。PCA（主成分分析）一般来说用作高维数据集的探寻与可视化，还可以用作数据压缩，数据预处理等。

PCA算法概念：PCA（PrincipalComponentAnalysis）主成分分析，也称作卡尔胡宁－勒夫转换（Karhunen－LoeveTransform），是一种用作探寻高维数据结构的技术。PCA是一种更为常用的降维技术，PCA的思想是将维特征同构到维上，这维是全新的向量特征。

这维特征称之为居多元，是新的结构出来的维特征。在PCA中，数据从原本的坐标系切换到新的坐标系下，新的坐标系的自由选择与数据本身是密切相关的。

第一个新的坐标轴自由选择的是原始数据中方差仅次于的方向，第二个新的坐标轴自由选择和第一个坐标轴向量且具备仅次于方差的方向。该过程仍然反复，反复次数为原始数据中特征的数目。大部分方差都包括在最前面的几个新的坐标轴中。

因此，可以忽视余下的坐标轴，即对数据展开降维处置。PCA算法本质：PCA算法本质就是去找一些投影方向，使得数据在这些投影方向上的方差仅次于，而且这些投影方向是互相向量的。这只不过就是去找新的向量基的过程，计算出来原始数据在这些向量基上投影的方差，方差越大，就解释在对应向量基上包括了更加多的信息量。原始数据协方差矩阵的特征值越大，对应的方差越大，在对应的特征向量上投影的信息量就越大。

反之，如果特征值较小，则解释数据在这些特征向量上投影的信息量较小，可以将小特征值对应方向的数据移除，从而超过了降维的目的。PCA把有可能具备相关性的高维变量制备线性牵涉到的低维变量，称之为居多成分（principalcomponents）。

新的较低维数据集会尽量保有原始数据的变量。简而言之，PCA本质上是将方差仅次于的方向作为主要特征，并且在各个向量方向上将数据“离涉及”，也就是让它们在有所不同向量方向上没相关性。PCA算法中术语：1、样本“信息量”样本的“信息量”所指的是样本在特征方向上投影的方差。

方差越大，则样本在该特征上的差异就越大，因此该特征就就越最重要。在分类问题里，样本的方差越大，就越更容易将有所不同类别的样本区分开。2、方差期望投影后投影值尽量集中，而这种集中程度，可以用数学上的方差来阐释。

在统计资料叙述中，方差用来计算出来每一个变量（仔细观察值）与总体均数之间的差异。此处，一个字段的方差可以看作是每个元素与字段均值的劣的平方和的均值，即：3、协方差对于二维降成一维的问题来说，寻找使得方差仅次于的方向就可以了。但是对于更高维的问题，必须中用协方差来回应其相关性。

即：PCA理论基础：PCA理论基础如下：1）仅次于方差理论。2）大于错误理论。

3）坐标轴相关度理论。PCA算法流程：1）去平均值，即每一位特征乘以各自的平均值；2）计算出来协方差矩阵；3）计算出来协方差矩阵的特征值与特征向量；4）对特征值从大到小排序；5）保有仅次于的个特征向量；6）将数据切换到个特征向量建构的新空间中。PCA降维准则：1）最近重构性：样本集中于所有点，重构后的点距离原本的点的误差之和大于。

2）仅次于可分性：样本在较低维空间的投影尽量分离。PCA算法优点：1）使得数据集更易使用；2）减少算法的计算出来支出；3）除去噪声；4）使得结果更容易解读；5）几乎无参数容许。

PCA算法缺点：1）如果用户对观测对象有一定的先验科学知识，掌控了数据的一些特征，却无法通过参数简化等方法对处理过程展开介入，可能会得到预期的效果，效率也不低；2）特征值分解成有一些局限性，比如转换的矩阵必需是方阵；3）在非高斯分布情况下，PCA方法得出结论的主元有可能并不是拟合的。PCA算法应用于：PCA算法早已被普遍的应用于高维数据集的探寻与可视化，还可以用作数据压缩，数据预处理等领域。

在机器学习当中应用于很广，比如图像，语音，通信的分析处置。PCA算法最主要的用途在于“降维”，去杀掉数据的一些校验信息和噪声，使数据显得更为非常简单高效，提升其他机器学习任务的计算出来效率。结语：PCA是一种常用的数据分析方法。

PCA通过线性变换将原始数据转换为一组各维度线性牵涉到的回应，可用作辨识和萃取数据的主要特征分量，通过将数据坐标轴转动到数据角度上那些最重要的方向（方差仅次于）；然后通过特征值分析，确认出有必须保有的主成分个数，抛弃其他非主成分，从而构建数据的降维。降维使数据显得更为非常简单高效，从而构建提高数据处理速度的目的，节省大量的时间和成本。降维也沦为了应用于十分普遍的数据预处理方法。

PCA算法早已被普遍的应用于高维数据集的探寻与可视化，还可以用作数据压缩，数据预处理，图像，语音，通信的分析处置等领域。

本文来源：千亿体育-www.homesinmaumee.com