网站空间搭建,网站做动态图片不显示,广西住房和城乡建设厅网,房产中介网站引言
随着大数据时代的到来#xff0c;我们经常会面临处理高维数据的问题。高维数据不仅增加了计算复杂度#xff0c;还可能引发“维度灾难”。为了解决这一问题#xff0c;我们需要对数据进行降维处理#xff0c;即在不损失太多信息的前提下#xff0c;将数据从高维空间…引言
随着大数据时代的到来我们经常会面临处理高维数据的问题。高维数据不仅增加了计算复杂度还可能引发“维度灾难”。为了解决这一问题我们需要对数据进行降维处理即在不损失太多信息的前提下将数据从高维空间映射到低维空间。主成分分析PCAPrincipal Component Analysis就是一种常用的数据降维方法。
简而言之PCA降维就是把复杂的高维数据简化成更容易理解的低维数据同时保留最重要的信息让我们能够更方便地分析和处理这些数据。
下图为例所有的数据是分布在三维空间中PCA将三维数据映射到二维平面u二维平面由向量u1,u2表示u1与u2垂直 代码演示
import numpy as np
from sklearn.decomposition import PCA# 创建一个包含五个数据点和两个特征的二维NumPy数组
data np.array([[1, 1], [1, 3], [2, 3], [4, 4], [2, 4]])# 创建一个PCA对象通过设置 n_components 参数为 0.9表示要保留90%的原始数据的方差
pca PCA(n_components0.9) # 提取90%特征# 对输入的数据进行PCA模型拟合计算主成分
pca.fit(data)# 使用拟合好的PCA模型对原始数据进行转换将数据压缩到新的特征空间压缩后的结果存储在变量 new 中
new pca.fit_transform(data) # 压缩后的矩阵# 打印压缩后的数据
print(Compressed Data:)
print(new)# 打印每个选定主成分解释的方差比例。在这里由于指定了 n_components0.9它将打印每个主成分解释的方差比例直到累积解释的方差达到90%为止
print(Explained Variance Ratios:)
print(pca.explained_variance_ratio_)压缩后的矩阵 经过PCA降维后的数据。这个矩阵包含了降维后的数据点在新的特征空间中的表示。
简单来说每一行对应于原始数据中的一个数据点而每一列对应于新的主成分新的特征。在这个例子中由于设置了 n_components0.9只有第一个主成分被保留因此新的特征空间只有一个维度。
主成分解释的方差比例 在提供的数据集 data 中每个数据点有两个特征。当应用PCA进行降维时PCA会尝试找到一个新的特征空间其中第一个主成分第一个新特征具有最大的方差而第二个主成分第二个新特征具有次大的方差。详细推导过程可以看我的这篇博客PCA降维的推导超详细_AI_dataloads的博客-CSDN博客
在数据中PCA计算出的第一个主成分新特征具有约0.83的方差而第二个主成分具有约0.17的方差。因此第一个主成分保留了数据中大部分的变化和信息而第二个主成分包含的信息相对较少。因此降维后只保留了第一个主成分而第二个主成分的信息被丢弃了。
这就是为什么降维后只剩下一个主成分即[0.83333333, 0.16666667]。这意味着降维后的数据集仅包含一个主成分其中第一个主成分的贡献占主导地位而第二个主成分的贡献相对较小因此被删除。这是PCA的工作原理它试图捕获数据中最重要的变化并减少维度以减小冗余。
