機器學習常用的降維方法

❶ 機器學習之特徵降維

降維是機器學習領域中降低特徵數量的過程，旨在減少數據冗餘，提高模型訓練效率與性能。在特徵數量過多時，可能導致過擬合，或增加計算復雜度。因此，通過降維技術，我們能篩選出對預測任務真正關鍵的特徵，進而優化模型。

降維有兩種主要方式：一種是特徵選擇，另一種是特徵提取。特徵選擇從原始特徵中挑選出最相關或最有影響力的特徵。特徵提取則將原始特徵轉換成一組新的、不相關或弱相關的特徵。

特徵選擇的定義在於從數據中識別出關鍵特徵，以減少冗餘信息。通過分析特徵間的相關性或方差，我們能決定哪些特徵對預測任務最為重要。

在特徵選擇實踐中，過濾式方法是常見且直觀的策略。這類方法基於統計量來評估特徵，通常包括方差過濾和相關系數計算。方差過濾通過方差閾值來篩選特徵，確保保留的特徵具有較高的變異性。相關系數則度量兩個變數之間的線性關系強度，范圍在-1到+1之間，接近1表示高度相關。

在實現中，我們使用Python庫如scikit-learn中的VarianceThreshold類來實現方差過濾。例如，我們從一個CSV文件中載入股票數據集，篩選出主要的財務指標特徵，並刪除那些方差低於指定閾值的特徵。通過計算特徵間的相關系數，我們能發現哪些特徵之間存在高度相關性，從而決定是否保留或合成這些特徵。相關系數的計算為：

= 0.9942

這表明廣告投入費用與月平均銷售額之間存在高度正相關關系。

相關系數的性質包括：

1. 介於-1與+1之間，表示線性相關程度，接近1表示高度正相關。

2. 絕對值表示相關程度，|r| = |-5| = 5。

通過相關系數計算，我們能識別出哪些特徵間存在密切關系，從而決定是否進行特徵合並，以簡化模型並提高預測性能。

為了直觀展示特徵相關性，我們通常會將相關系數矩陣繪製成熱圖，這樣可以一目瞭然地識別出高度相關或不相關的特徵組合。這有助於後續的特徵合成或特徵選擇決策。

❷ 機器學習四大數據分析降維方法詳解

【導讀】近幾年來，隨著人們對數據分析領域的情況愈發了解後，很多大數據分析師利用機器學習四大數據分析降維方法來解決一些數據分析過程中的難題，從而更容易更便捷的工作和避免一些工作中的重復動作和流程，今天小編就對機器學習四大數據分析降維方法進行詳細解讀，希望對大家有所幫助。

就像在擁擠的體育場內找到特定人物並不容易，將所有數據都放在同一個物理位置並不一定會使發現變得容易，另外由於來自原始系統的數據復制緩慢且成本高昂，因此相關數據中只有一小部分傾向於存儲在湖泊中，更為復雜的是，許多公司可能擁有數百個分布在多個本地數據中心和雲提供商之間的數據存儲庫，當涉及數據集成時，以原始格式存儲數據並不會消除使數據適應每個機器學習過程的需求，相反它只是將執行該過程的負擔轉移給了數據科學家，盡管湖中可能具有所需的處理能力，但數據科學家通常不具備集成數據所需的技能。

過去幾年中出現了一些數據准備工具，以使數據科學家可以訪問簡單的集成任務

更復雜的任務仍然需要高級技能。IT部門通常需要通過在數據湖中為特定的ML流程創建新的數據集來進行救援，從而大大減慢了進度，數據虛擬化的好處為了應對這些挑戰，組織已開始應用新流程，例如數據虛擬化，可以提供對任何數據的單一訪問點-無論位於何處，也無論其本機格式如何-都無需先將其復制到中央存儲庫中，提供相同物理數據的不同邏輯視圖，而無需創建其他副本。這提供了一種快速而廉價的方式來提供數據的不同視圖，以滿足每種類型的用戶和應用程序的獨特需求，這些邏輯視圖可以通過使用復雜的優化技術在物理數據之上應用復雜的數據轉換和組合功能來創建，以實現最佳性能。

具體而言，數據虛擬化通過以下方式幫助應對兩個主要挑戰

數據發現使數據科學家可以訪問更多數據，由於無需從原始系統復制數據集即可在系統中使用，因此添加新內容會更快，更便宜。這些工具為實際復制哪些數據提供了完全的靈活性。例如，對於某個過程，您可以選擇從源實時訪問所有數據，而對於另一個過程，則可以選擇首先在物理存儲庫(例如數據湖)中實現所有必需的數據，而對於另一個過程，則可以選擇可以選擇僅體現一部分數據的混合策略(例如，將在流程中頻繁使用或可能對許多流程有用的數據)。

提供的所有數據集提供了可搜索的，可瀏覽的目錄

該目錄包含有關每個數據集的大量元數據、標簽，列說明和使用信息，例如誰使用每個數據集，何時以及如何使用，數據集的內容也可以直接從此目錄中搜索和查詢。

工具根據一致的數據表示和查詢模型公開所有數據

這意味著無論數據最初存儲在關系資料庫，Hadoop集群，SaaS應用程序還是NoSQL系統中，數據科學家都可以看到所有數據，就像將其存儲在單個關系資料庫中一樣。可以通過SQL，REST或OData等標准方法訪問此「虛擬資料庫」，這些方法支持包括R，Scala，Python和Spark
ML等標准工具/語言。

使IT數據架構師和數據科學家之間的職責明確，成本有效地分開

IT數據架構師可以使用DV創建「可重用的邏輯數據集」，以對許多流程有用的方式公開信息，這些邏輯數據集也不需要物理復制數據，因此與傳統方法相比，創建和維護它們的工作量要少得多，然後數據科學家可以對這些可重復使用的數據集進行修改，以滿足每個ML流程的需求。根據定義，可重用的邏輯數據集會處理諸如轉換和性能優化之類的復雜問題，因此數據科學家可以根據需要執行最終(且更輕松)的自定義。

現代工具還包括高級管理功能

因此可以集中實施安全策略，可以保留虛擬數據集的沿襲，並且可以在多個ML流程之間重用常見的轉換和計算，數據虛擬化平台還可以將ML分析的結果無縫地呈現給業務用戶和應用程序，因此可以輕松地將其合並到業務流程和報告中，隨著機器學習和數據湖的不斷擴散並支持現代分析，數據虛擬化是大幅提高數據科學家生產率的關鍵，它使他們可以專注於自己的核心技能，而不是數據管理，使數據科學家可以訪問更多數據並利用基於目錄的數據發現，並且極大地簡化了數據集成，因此組織可以真正從手頭的數據中受益。

以上就是小編今天給大家整理發送的關於「機器學習四大數據分析降維方法詳解」的相關內容，希望對大家有所幫助。想了解更多關於數據分析及人工智慧就業崗位分析，關注小編持續更新。

❸ 【Python-機器學習】PCA 主成份分析快速降維 + 探索性畫圖 + 聚類建模

Python中實現PCA主成份分析快速降維、探索性畫圖與聚類建模的步驟如下：

1. PCA主成份分析快速降維

• 導入數據：首先，需要導入待分析的數據集。這通常涉及讀取CSV文件、資料庫中的數據或其他數據源。
• 執行PCA降維：使用PCA演算法對數據進行降維。PCA通過線性變換將數據投影到新的坐標系中，選擇方差最大的方向作為新的坐標軸，從而達到降維的目的。在Python中，可以使用scikitlearn庫中的PCA類來實現這一過程。

2. 探索性畫圖

• 繪制二維散點圖：降維至二維後，可以利用matplotlib等繪圖庫繪制散點圖，以直觀顯示數據之間的關系。這有助於觀察數據的分布、聚集情況以及潛在的聚類結構。
• 選擇可視化方法：除了基本的二維散點圖外，還可以嘗試更復雜的可視化方法，如三維散點圖、熱力圖等，以更全面地了解數據特徵。

3. 聚類建模

• 選擇合適的聚類演算法：根據數據的特性和聚類需求，選擇合適的聚類演算法，如Kmeans、DBSCAN、層次聚類等。
• 應用聚類演算法：在降維後的數據上應用所選的聚類演算法，得到聚類結果。
• 評估聚類效果：通過輪廓系數、CalinskiHarabasz指數等指標評估聚類效果，以確定最佳的聚類數目和演算法參數。

總結：

• PCA主成份分析是一種有效的數據降維方法，可以簡化模型並優化性能。
• 降維後的數據可以通過二維散點圖等可視化手段進行探索性分析，有助於觀察數據分布和潛在的聚類結構。
• 在降維後的數據上應用聚類演算法，可以得到有意義的聚類結果，為後續的數據分析和挖掘提供有力支持。