机器学习常用的降维方法

❶ 机器学习之特征降维

降维是机器学习领域中降低特征数量的过程，旨在减少数据冗余，提高模型训练效率与性能。在特征数量过多时，可能导致过拟合，或增加计算复杂度。因此，通过降维技术，我们能筛选出对预测任务真正关键的特征，进而优化模型。

降维有两种主要方式：一种是特征选择，另一种是特征提取。特征选择从原始特征中挑选出最相关或最有影响力的特征。特征提取则将原始特征转换成一组新的、不相关或弱相关的特征。

特征选择的定义在于从数据中识别出关键特征，以减少冗余信息。通过分析特征间的相关性或方差，我们能决定哪些特征对预测任务最为重要。

在特征选择实践中，过滤式方法是常见且直观的策略。这类方法基于统计量来评估特征，通常包括方差过滤和相关系数计算。方差过滤通过方差阈值来筛选特征，确保保留的特征具有较高的变异性。相关系数则度量两个变量之间的线性关系强度，范围在-1到+1之间，接近1表示高度相关。

在实现中，我们使用Python库如scikit-learn中的VarianceThreshold类来实现方差过滤。例如，我们从一个CSV文件中加载股票数据集，筛选出主要的财务指标特征，并删除那些方差低于指定阈值的特征。通过计算特征间的相关系数，我们能发现哪些特征之间存在高度相关性，从而决定是否保留或合成这些特征。相关系数的计算为：

= 0.9942

这表明广告投入费用与月平均销售额之间存在高度正相关关系。

相关系数的性质包括：

1. 介于-1与+1之间，表示线性相关程度，接近1表示高度正相关。

2. 绝对值表示相关程度，|r| = |-5| = 5。

通过相关系数计算，我们能识别出哪些特征间存在密切关系，从而决定是否进行特征合并，以简化模型并提高预测性能。

为了直观展示特征相关性，我们通常会将相关系数矩阵绘制成热图，这样可以一目了然地识别出高度相关或不相关的特征组合。这有助于后续的特征合成或特征选择决策。

❷ 机器学习四大数据分析降维方法详解

【导读】近几年来，随着人们对数据分析领域的情况愈发了解后，很多大数据分析师利用机器学习四大数据分析降维方法来解决一些数据分析过程中的难题，从而更容易更便捷的工作和避免一些工作中的重复动作和流程，今天小编就对机器学习四大数据分析降维方法进行详细解读，希望对大家有所帮助。

就像在拥挤的体育场内找到特定人物并不容易，将所有数据都放在同一个物理位置并不一定会使发现变得容易，另外由于来自原始系统的数据复制缓慢且成本高昂，因此相关数据中只有一小部分倾向于存储在湖泊中，更为复杂的是，许多公司可能拥有数百个分布在多个本地数据中心和云提供商之间的数据存储库，当涉及数据集成时，以原始格式存储数据并不会消除使数据适应每个机器学习过程的需求，相反它只是将执行该过程的负担转移给了数据科学家，尽管湖中可能具有所需的处理能力，但数据科学家通常不具备集成数据所需的技能。

过去几年中出现了一些数据准备工具，以使数据科学家可以访问简单的集成任务

更复杂的任务仍然需要高级技能。IT部门通常需要通过在数据湖中为特定的ML流程创建新的数据集来进行救援，从而大大减慢了进度，数据虚拟化的好处为了应对这些挑战，组织已开始应用新流程，例如数据虚拟化，可以提供对任何数据的单一访问点-无论位于何处，也无论其本机格式如何-都无需先将其复制到中央存储库中，提供相同物理数据的不同逻辑视图，而无需创建其他副本。这提供了一种快速而廉价的方式来提供数据的不同视图，以满足每种类型的用户和应用程序的独特需求，这些逻辑视图可以通过使用复杂的优化技术在物理数据之上应用复杂的数据转换和组合功能来创建，以实现最佳性能。

具体而言，数据虚拟化通过以下方式帮助应对两个主要挑战

数据发现使数据科学家可以访问更多数据，由于无需从原始系统复制数据集即可在系统中使用，因此添加新内容会更快，更便宜。这些工具为实际复制哪些数据提供了完全的灵活性。例如，对于某个过程，您可以选择从源实时访问所有数据，而对于另一个过程，则可以选择首先在物理存储库(例如数据湖)中实现所有必需的数据，而对于另一个过程，则可以选择可以选择仅体现一部分数据的混合策略(例如，将在流程中频繁使用或可能对许多流程有用的数据)。

提供的所有数据集提供了可搜索的，可浏览的目录

该目录包含有关每个数据集的大量元数据、标签，列说明和使用信息，例如谁使用每个数据集，何时以及如何使用，数据集的内容也可以直接从此目录中搜索和查询。

工具根据一致的数据表示和查询模型公开所有数据

这意味着无论数据最初存储在关系数据库，Hadoop集群，SaaS应用程序还是NoSQL系统中，数据科学家都可以看到所有数据，就像将其存储在单个关系数据库中一样。可以通过SQL，REST或OData等标准方法访问此“虚拟数据库”，这些方法支持包括R，Scala，Python和Spark
ML等标准工具/语言。

使IT数据架构师和数据科学家之间的职责明确，成本有效地分开

IT数据架构师可以使用DV创建“可重用的逻辑数据集”，以对许多流程有用的方式公开信息，这些逻辑数据集也不需要物理复制数据，因此与传统方法相比，创建和维护它们的工作量要少得多，然后数据科学家可以对这些可重复使用的数据集进行修改，以满足每个ML流程的需求。根据定义，可重用的逻辑数据集会处理诸如转换和性能优化之类的复杂问题，因此数据科学家可以根据需要执行最终(且更轻松)的自定义。

现代工具还包括高级管理功能

因此可以集中实施安全策略，可以保留虚拟数据集的沿袭，并且可以在多个ML流程之间重用常见的转换和计算，数据虚拟化平台还可以将ML分析的结果无缝地呈现给业务用户和应用程序，因此可以轻松地将其合并到业务流程和报告中，随着机器学习和数据湖的不断扩散并支持现代分析，数据虚拟化是大幅提高数据科学家生产率的关键，它使他们可以专注于自己的核心技能，而不是数据管理，使数据科学家可以访问更多数据并利用基于目录的数据发现，并且极大地简化了数据集成，因此组织可以真正从手头的数据中受益。

以上就是小编今天给大家整理发送的关于“机器学习四大数据分析降维方法详解”的相关内容，希望对大家有所帮助。想了解更多关于数据分析及人工智能就业岗位分析，关注小编持续更新。

❸ 【Python-机器学习】PCA 主成份分析快速降维 + 探索性画图 + 聚类建模

Python中实现PCA主成份分析快速降维、探索性画图与聚类建模的步骤如下：

1. PCA主成份分析快速降维

• 导入数据：首先，需要导入待分析的数据集。这通常涉及读取CSV文件、数据库中的数据或其他数据源。
• 执行PCA降维：使用PCA算法对数据进行降维。PCA通过线性变换将数据投影到新的坐标系中，选择方差最大的方向作为新的坐标轴，从而达到降维的目的。在Python中，可以使用scikitlearn库中的PCA类来实现这一过程。

2. 探索性画图

• 绘制二维散点图：降维至二维后，可以利用matplotlib等绘图库绘制散点图，以直观显示数据之间的关系。这有助于观察数据的分布、聚集情况以及潜在的聚类结构。
• 选择可视化方法：除了基本的二维散点图外，还可以尝试更复杂的可视化方法，如三维散点图、热力图等，以更全面地了解数据特征。

3. 聚类建模

• 选择合适的聚类算法：根据数据的特性和聚类需求，选择合适的聚类算法，如Kmeans、DBSCAN、层次聚类等。
• 应用聚类算法：在降维后的数据上应用所选的聚类算法，得到聚类结果。
• 评估聚类效果：通过轮廓系数、CalinskiHarabasz指数等指标评估聚类效果，以确定最佳的聚类数目和算法参数。

总结：

• PCA主成份分析是一种有效的数据降维方法，可以简化模型并优化性能。
• 降维后的数据可以通过二维散点图等可视化手段进行探索性分析，有助于观察数据分布和潜在的聚类结构。
• 在降维后的数据上应用聚类算法，可以得到有意义的聚类结果，为后续的数据分析和挖掘提供有力支持。