多元線性分析方法文獻

Ⅰ 多元線性回歸中自變數篩選常用的方法有哪些

篩選變數法, 嶺回歸分析法, 主成分回歸法和偏最小二乘回歸法。關鍵詞: 回歸、SASSTAT、共線性、篩選變數、嶺回歸、主成分回歸、偏最小二乘回歸。中圖分類號: 0212; C8 文獻標識碼: A 回歸分析方法是處理多變數間相依關系的統計方法。它是數理統計中應用最為廣泛的方法之一。在長期的大量的實際應用中人們也發現: 建立回歸方程後, 因為自變數存在相關性, 將會增加參數估計的方差, 使得回歸方程變得不穩定; 有些自變數對因變數(指標) 影響的顯著性被隱蔽起來; 某些回歸系數的符號與實際意義不符合等等不正常的現象。這些問題的出現原因就在於自變數的共線性。本文通過例子來介紹自變數共線性的診斷方法以及使用SA SSTA T 軟體6. 12 版本中REG 等過程的增強功能處理回歸變數共線性的一些方法。一、共線性診斷共線性問題是指擬合多元線性回歸時, 自變數之間存在線性關系或近似線性關系。共線性診斷的方法是基於對自變數的觀測數據構成的矩陣X′X 進行分析, 使用各種反映自變數間相關性的指標。共線性診斷常用統計量有方差膨脹因子V IF (或容限TOL )、條件指數和方差比例等。方差膨脹因子V IF 是指回歸系數的估計量由於自變數共線性使得其方差增加的一個相對度量。對第i 個回歸系數, 它的方差膨脹因子定義為 V I F i = 第i 個回歸系數的方差自變數不相關時第i 個回歸系數的方差 = 1 1 - R 2 i = 1 TOL i 其中R 2 i 是自變數xi 對模型中其餘自變數線性回歸模型的R 平方。V IFi 的倒數TOL i 也稱為容限( To lerance )。一般建議, 若V IF> 10, 表明模型中有很強的共線性問題。若矩陣X′X 的特徵值為d 2 1 ≥d 2 2 ≥…≥d 2 k, 則X 的條件數 d1 dk 就是刻劃它的奇性的一個指標。故稱 d1 dj (j= 1, …, k) 為條件指數。一般認為, 若條件指數值在10 與30 間為弱相關; 在30 與100 間為中等相關; 大於100 表明有強相關。對於大的條件指數, 還需要找出哪些變數間存在強的線性關系。因為每個條件指數對應一 9 4 處理多元線性回歸中自變數共線- 性的幾種方法個特徵向量, 而大的條件指數相應的特徵值較小, 故構成這一特徵向量的變數間有近似的線性關系。在統計中用方差比例來說明各個自變數在構成這個特徵向量中的貢獻。一般建議, 在大的條件指數中由方差比例超過0. 5 的自變數構成的變數子集就認為是相關變數集。

Ⅱ 誰能給我列一下多元線性回歸分析的步驟，這里正在寫論文，第一部分是研究方法，多謝

選題是論文寫作關鍵的第一步，直接關系論文的質量。常言說：「題好文一半」。對於臨床護理人員來說，選擇論文題目要注意以下幾點：（1）要結合學習與工作實際，根據自己所熟悉的專業和研究興趣，適當選擇有理論和實踐意義的課題；（2）論文寫作選題宜小不宜大，只要在學術的某一領域或某一點上，有自己的一得之見，或成功的經驗．或失敗的教訓，或新的觀點和認識，言之有物，讀之有益，就可以作為選題；（3）論文寫作選題時要查看文獻資料，既可了解別人對這個問題的研究達到什麼程度，也可以借鑒人家對這個問題的研究成果。
需要指出，論文寫作選題與論文的標題既有關系又不是一回事。標題是在選題基礎上擬定的，是選題的高度概括，但選題及寫作不應受標題的限制，有時在寫作過程中，選題未變，標題卻幾經修改變動。

Ⅲ 用Excel 多元線性回歸的方法分析數據

1.理清各個數據之間的邏輯關系，搞清楚哪個是自變數，哪個又是因變數。如附圖所示，這里要對人均gdp和城市化水平進行分析，建立符合兩者之間的模型，假定人均gdp為自變數，城市化水平是因變數。
2.由於不知道兩者之間的具體關系如何，所以利用數據生成一個散點圖判斷其可能符合的模型。如附圖1所示為生成的散點圖，一般橫坐標為自變數，縱坐標為因變數，所以需要將x軸，y軸的坐標對調一下，這里採用最簡單的方法，將因變數移動到自變數的右邊一列即可，如附圖2所示。
3.由步驟2的散點圖，可以判斷自變數和因變數之間可能呈線性關系，可以添加線性趨勢線進一步加以判斷。如附圖1所示。也可以添加指數，移動平均等趨勢線進行判斷。很明顯數據可能符合線性關系，所以下面我們對數據進行回歸分析。
4.選擇菜單欄的「數據分析」-->「回歸」。具體操作如附圖所示。
5.步驟4進行的回歸分析輸出結果如附圖所示。回歸模型是否有效，可以參見p指，如果p<0.001則極端顯著，如果0.001<p<0.01非常顯著，0.01<p<0.05則一般顯著，p>0.05則不顯著。本例的p值均小於0.001，所以屬於極端顯著，故回歸模型是有效的。根據回歸模型的結果可知。
y
=
5E-06x
+
0.5876R²
=
0.9439
如附圖2所示。

Ⅳ 多元線性回歸多重共線性檢驗及避免方法，簡單點的

多重共線性指自變數問存在線性相關關系，即一個自變數可以用其他一個或幾個自變數的線性表達式進行表示。若存在多重共線性，計算自變數的偏回歸系數β時，矩陣不可逆，導致β存在無窮多個解或無解。
而在使用多元線性回歸構建模型過程中，變數之間存在多重共線性問題也是比較常見的。那麼當發現多重線性回歸模型中存在多重共線性時我們該如何處理呢？
可通過以下方法予以解決：
(1)逐步回歸
使用逐步回歸可以在一定程度上篩選存在多重共線性的自變數組合中對反應變數變異解釋較大的變數，而將解釋較小的變數排除在模型之外。
但這種方法缺點是當共線性較為嚴重時，變數自動篩選的方法並不能完全解決問題。
(2) 嶺回歸
嶺回歸為有偏估計，但能有效地控制回歸系數的標准誤大小。
(3) 主成分回歸
可以使用主成分分析的方法對存在多重共線性的自變數組合提取主成分，然後以特徵值較大的（如大於1）幾個主成分與其他自變數一起進行多重線性回歸。得出的主成分回歸系數再根據主成分表達式反推出原始自變數的參數估計。
該方法在提取主成分時丟失了一部分信息，幾個自變數間的多重共線性越強，提取主成分時丟失的信息越少。
(4) 路徑分析
如果對自變數間的聯系規律有比較清楚的了解，則可以考慮建立路徑分析模型，以進行更深入的研究。

Ⅳ 多元分析的分析方法

包括3類:①多元方差分析、多元回歸分析和協方差分析，稱為線性模型方法，用以研究確定的自變數與因變數之間的關系；②判別函數分析和聚類分析,用以研究對事物的分類；③主成分分析、典型相關和因素分析，研究如何用較少的綜合因素代替為數較多的原始變數。 是把總變異按照其來源（或實驗設計）分為多個部分，從而檢驗各個因素對因變數的影響以及各因素間交互作用的統計方法。例如，在分析2×2析因設計資料時，總變異可分為分屬兩個因素的兩個組間變異、兩因素間的交互作用及誤差（即組內變異）等四部分,然後對組間變異和交互作用的顯著性進行F檢驗。
優點
是可以在一次研究中同時檢驗具有多個水平的多個因素各自對因變數的影響以及各因素間的交互作用。其應用的限制條件是，各個因素每一水平的樣本必須是獨立的隨機樣本，其重復觀測的數據服從正態分布，且各總體方差相等。 用以評估和分析一個因變數與多個自變數之間線性函數關系的統計方法。一個因變數y與自變數x1、x2、…xm有線性回歸關系是指：
其中α、β1…βm是待估參數，ε是表示誤差的隨機變數。通過實驗可獲得x1、x2…xm的若干組數據以及對應的y值，利用這些數據和最小二乘法就能對方程中的參數作出估計，記為╋、勮…叧，它們稱為偏回歸系數。
優點
是可以定量地描述某一現象和某些因素間的線性函數關系。將各變數的已知值代入回歸方程便可求得因變數的估計值（預測值），從而可以有效地預測某種現象的發生和發展。它既可以用於連續變數，也可用於二分變數（0，1回歸）。多元回歸的應用有嚴格的限制。首先要用方差分析法檢驗因變數y與m個自變數之間的線性回歸關系有無顯著性，其次，如果y與m個自變數總的來說有線性關系，也並不意味著所有自變數都與因變數有線性關系，還需對每個自變數的偏回歸系數進行t檢驗,以剔除在方程中不起作用的自變數。也可以用逐步回歸的方法建立回歸方程，逐步選取自變數，從而保證引入方程的自變數都是重要的。 把線性回歸與方差分析結合起來檢驗多個修正均數間有無差別的統計方法。例如，一個實驗包含兩個多元自變數，一個是離散變數(具有多個水平)，一個是連續變數，實驗目的是分析離散變數的各個水平的優劣，此變數是方差變數；而連續變數是由於無法加以控制而進入實驗的，稱為協變數。在運用協方差分析時，可先求出該連續變數與因變數的線性回歸函數，然後根據這個函數扣除該變數的影響，即求出該連續變數取等值情況時因變數的修正均數，最後用方差分析檢驗各修正均數間的差異顯著性，即檢驗離散變數對因變數的影響。
優點
可以在考慮連續變數影響的條件下檢驗離散變數對因變數的影響，有助於排除非實驗因素的干擾作用。其限制條件是，理論上要求各組資料（樣本）都來自方差相同的正態總體,各組的總體直線回歸系數相等且都不為0。因此應用協方差分析前應先進行方差齊性檢驗和回歸系數的假設檢驗，若符合或經變換後符合上述條件，方可作協方差分析。 判定個體所屬類別的統計方法。其基本原理是：根據兩個或多個已知類別的樣本觀測資料確定一個或幾個線性判別函數和判別指標，然後用該判別函數依據判別指標來判定另一個個體屬於哪一類。
判別分析不僅用於連續變數，而且藉助於數量化理論亦可用於定性資料。它有助於客觀地確定歸類標准。然而，判別分析僅可用於類別已確定的情況。當類別本身未定時，預用聚類分析先分出類別，然後再進行判別分析。 解決分類問題的一種統計方法。若給定n個觀測對象，每個觀察對象有p個特徵（變數），如何將它們聚成若干可定義的類?若對觀測對象進行聚類,稱為Q型分析;若對變數進行聚類,稱為R型分析。聚類的基本原則是,使同類的內部差別較小,而類別間的差別較大。最常用的聚類方案有兩種。一種是系統聚類方法。例如，要將n個對象分為k類,先將n個對象各自分成一類,共n類。然後計算兩兩之間的某種「距離」，找出距離最近的兩個類、合並為一個新類。然後逐步重復這一過程，直到並為k類為止。另一種為逐步聚類或稱動態聚類方法。當樣本數很大時，先將n個樣本大致分為k類，然後按照某種最優原則逐步修改，直到分類比較合理為止。
聚類分析是依據個體或變數的數量關系來分類，客觀性較強，但各種聚類方法都只能在某種條件下達到局部最優,聚類的最終結果是否成立,尚需專家的鑒定。必要時可以比較幾種不同的方法，選擇一種比較符合專業要求的分類結果。 把原來多個指標化為少數幾個互不相關的綜合指標的一種統計方法。例如,用p個指標觀測樣本,如何從這p個指標的數據出發分析樣本或總體的主要性質呢？如果p個指標互不相關，則可把問題化為p個單指標來處理。但大多時候p個指標之間存在著相關。此時可運用主成分分析尋求這些指標的互不相關的線性函數，使原有的多個指標的變化能由這些線性函數的變化來解釋。這些線性函數稱為原有指標的主成分，或稱主分量。
主成分分析有助於分辨出影響因變數的主要因素，也可應用於其他多元分析方法，例如在分辨出主成分之後再對這些主成分進行回歸分析、判別分析和典型相關分析。主成分分析還可以作為因素分析的第一步，向前推進就是因素分析。其缺點是只涉及一組變數之間的相互依賴關系，若要討論兩組變數之間的相互關系則須運用典型相關。 先將較多變數轉化為少數幾個典型變數，再通過其間的典型相關系數來綜合描述兩組多元隨機變數之間關系的統計方法。設x是p元隨機變數,y是q元隨機變數，如何描述它們之間的相關程度?當然可逐一計算x的p個分量和y的q個分量之間的相關系數(p×q個)， 但這樣既繁瑣又不能反映事物的本質。如果運用典型相關分析，其基本程序是，從兩組變數各自的線性函數中各抽取一個組成一對，它們應是相關系數達到最大值的一對，稱為第1對典型變數,類似地還可以求出第2對、第3對、……,這些成對變數之間互不相關,各對典型變數的相關系數稱為典型相關系數。所得到的典型相關系數的數目不超過原兩組變數中任何一組變數的數目。
典型相關分析有助於綜合地描述兩組變數之間的典型的相關關系。其條件是,兩組變數都是連續變數,其資料都必須服從多元正態分布。
以上幾種多元分析方法各有優點和局限性。每一種方法都有它特定的假設、條件和數據要求，例如正態性、線性和同方差等。因此在應用多元分析方法時，應在研究計劃階段確定理論框架，以決定收集何種數據、怎樣收集和如何分析數據資料。

Ⅵ 多元線性回歸分析步驟

一元線性回歸是一個主要影響因素作為自變數來解釋因變數的變化，在現實問題研究中，因變數的變化往往受幾個重要因素的影響，此時就需要用兩個或兩個以上的影響因素作為自變數來解釋因變數的變化，這就是多元回歸亦稱多重回歸。
當多個自變數與因變數之間是線性關系時，所進行的回歸分析就是多元線性回歸。設y為因變數，x_1，x_2，cdotsx_k為自變數，並且自變數與因變數之間為線性關系時，則多元線性回歸模型為：y=b_0+b_1x_1+b_2x_2+cdots+b_kx_k+e其中，b0為常數項，b_1，b_2，cdotsb_k為回歸系數。
b1為x_2，x_3cdotsx_k固定時，x1每增加一個單位對y的效應，即x1對y的偏回歸系數；同理b2為x1，xk固定時，x2每增加一個單位對y的效應，即，x2對y的偏回歸系數，等等。如果兩個自變數x1，x2同一個因變數y呈線性相關時，可用二元線性回歸模型描述為：y=b0+b1x1+b2x2+e。