高線回歸問題解決方法

Ⅰ 回歸分析中出現的多重共線性問題是什麼，如何處理

對多重共線性的兩點認識:
①在實際中，多重共線性是一個程度問題而不是有無的問題，有意義的區分不在於有和無，而在於多重共線性的程度。②多重共線性是針對固定的解釋變數而言，是一種樣本的特徵，而非總體的特徵。
消除多重共線性的方法:
1.增加樣本容量
2.利用先驗信息改變
3.刪除不必要的解釋變數:參數的約束形式
4.其它方法:逐步回歸法，嶺回歸(ridge regression),主成分分析(principal components ).
這些方法spss都可以做的，你在數據分析的子菜單下可以找到相應的做法。
刪除不必要的方法的時候，最好使用一下逐步回歸法，這樣比較科學一點。
主成分分析的方法使用比較簡單科學，本人介意用該方法。

Ⅱ spss進行線性回歸分析時,相關系數都符合,但是顯著性不符合,如何調整

線性回歸時候，相關系數只是表明了各個系數之間的相關程度。但是自變數對因變數不顯著的話，可能存在多重共線性、數據存在異常值、異方差的問題。

1、自變數存在共線性問題

在進行線性回歸分析時，很容易出現自變數共線性問題，通常情況下VIF值大於10說明嚴重共線，VIF大於5則說明有共線性問題。當出現共線性問題時，可能導致回歸系數的符號與實際情況完全相反，本應該顯著的自變數不顯著，本不顯著的自變數卻呈現出顯著性。

解決方法：手動移除出共線性的自變數，先做下相關分析，如果發現某兩個自變數X（解釋變數）的相關系數值大於0.7，則移除掉一個自變數（解釋變數），然後再做回歸分析。逐步回歸法，讓軟體自動進行自變數的選擇剔除，逐步回歸會將共線性的自變數自動剔除出去。

2、數據存在異常值，如果數據中存在極端異常值，會導致數據偏移對分析結果產生嚴重影響。如果回歸分析出現各類異常，可通過比如描述分析、箱線圖、散點圖等方法，找出並處理掉異常值後再做分析。

解決方法：查看數據中是否有異常值，可通過箱線圖、散點圖查看，剔除異常值可通過SPSSAU「異常值」功能進行剔除。

3、異方差，如果模型存在明顯的異方差性，會影響回歸系數的顯著情況，得到的回歸模型是低效並且不穩定的。

解決方法：保存殘差項，將殘差項分別與模型的自變數X或者因變數Y，作散點圖，查看散點是否有明顯的規律性。如果有明顯的異方差性，建議重新構建模型，比如對Y取對數後再次構建模型等。

如果排除了這些原因還是不顯著，那麼基本說明該變數對被解釋變數無顯著影響。

(2)高線回歸問題解決方法擴展閱讀

在做實證就是做回歸等等方法的時候，一般就看中三點，一是相關系數，看因變數和自變數是否相關。二是擬合優度（R平方），看回歸方程擬合的好不好，一般0.8以上就算擬合的比較好了。

三是自變數的系數對於因變數是否顯著啦，P值小於0.05就說明自變數對於因變數是顯著的。如果自變數的P值都比0.05大，那就說明自變數對於因變數是不顯著的，這個自變數就沒什麼意義，所以如果變數比較多的情況下，還是做一下逐步回歸。

如果變數比較少，做逐步回歸就會導致最後有可能只剩下一個變數。逐步回歸就是一個模型優化的過程，更加能解釋自變數和因變數之間的關系，一般回歸之後效果不好都要逐步回歸來優化線性模型的。

Ⅲ 在線性回歸分析中如何解決多重共線性的問題

對多重共線性的兩點認識：
①在實際中，多重共線性是一個程度問題而不是有無的問題，有意義的區分不在於有和無，而在於多重共線性的程度。②多重共線性是針對固定的解釋變數而言，是一種樣本的特徵，而非總體的特徵。
消除多重共線性的方法：
1.增加樣本容量
2.利用先驗信息改變
3.刪除不必要的解釋變數：參數的約束形式
4.其它方法：逐步回歸法，嶺回歸（ridge regression）,主成分分析（principal components ）.
這些方法spss都可以做的，你在數據分析的子菜單下可以找到相應的做法。
刪除不必要的方法的時候，最好使用一下逐步回歸法，這樣比較科學一點。
主成分分析的方法使用比較簡單科學，本人介意用該方法。

Ⅳ 在線性回歸分析中如何解決多重共線性的問題

對多重共線性的兩點認識：
①在實際中，多重共線性是一個程度問題而不是有無的問題，有意義的區分不在於有和無，而在於多重共線性的程度。②多重共線性是針對固定的解釋變數而言，是一種樣本的特徵，而非總體的特徵。
消除多重共線性的方法：
1.增加樣本容量
2.利用先驗信息改變
3.刪除不必要的解釋變數：參數的約束形式
4.其它方法：逐步回歸法，嶺回歸（ridge
regression）,主成分分析（principal
components
）.
這些方法spss都可以做的，你在數據分析的子菜單下可以找到相應的做法。
刪除不必要的方法的時候，最好使用一下逐步回歸法，這樣比較科學一點。
主成分分析的方法使用比較簡單科學，本人介意用該方法。

Ⅳ 多元線性回歸分析要解決的主要問題是什麼

主要解決的是兩組變數之間的因果關系

Ⅵ 關於線性回歸演算法還可以解決日常生活中哪些問題

趨勢線
一條趨勢線代表著時間序列數據的長期走勢。它告訴我們一組特定數據（如GDP、石油價格和股票價格）是否在一段時期內增長或下降。雖然我們可以用肉眼觀察數據點在坐標系的位置大體畫出趨勢線，更恰當的方法是利用線性回歸計算出趨勢線的位置和斜率。

流行病學
有關吸煙對死亡率和發病率影響的早期證據來自採用了回歸分析的觀察性研究。為了在分析觀測數據時減少偽相關，除最感興趣的變數之外,通常研究人員還會在他們的回歸模型里包括一些額外變數。例如，假設我們有一個回歸模型，在這個回歸模型中吸煙行為是我們最感興趣的獨立變數，其相關變數是經數年觀察得到的吸煙者壽命。研究人員可能將社會經濟地位當成一個額外的獨立變數，已確保任何經觀察所得的吸煙對壽命的影響不是由於教育或收入差異引起的。然而，我們不可能把所有可能混淆結果的變數都加入到實證分析中。例如，某種不存在的基因可能會增加人死亡的幾率，還會讓人的吸煙量增加。因此，比起採用觀察數據的回歸分析得出的結論，隨機對照試驗常能產生更令人信服的因果關系證據。當可控實驗不可行時，回歸分析的衍生，如工具變數回歸，可嘗試用來估計觀測數據的因果關系。

金融
資本資產定價模型利用線性回歸以及Beta系數的概念分析和計算投資的系統風險。這是從聯系投資回報和所有風險性資產回報的模型Beta系數直接得出的。

經濟學
線性回歸是經濟學的主要實證工具。例如，它是用來預測消費支出，固定投資支出，存貨投資，一國出口產品的購買，進口支出，要求持有流動性資產，勞動力需求、勞動力供給。

Ⅶ 求幫助，spss的線性回歸問題

多元線性回歸
1.打開數據，依次點擊：analyse--regression，打開多元線性回歸對話框。
2.將因變數和自變數放入格子的列表裡，上面的是因變數，下面的是自變數。
3.設置回歸方法，這里選擇最簡單的方法：enter，它指的是將所有的變數一次納入到方程。其他方法都是逐步進入的方法。
4.等級資料，連續資料不需要設置虛擬變數。多分類變數需要設置虛擬變數。
虛擬變數ABCD四類，以a為參考，那麼解釋就是b相對於a有無影響，c相對於a有無影響，d相對於a有無影響。
5.選項裡面至少選擇95%CI。
點擊ok。

Ⅷ 多重共線性問題的幾種解決方法

多重共線性問題的幾種解決方法

在多元線性回歸模型經典假設中，其重要假定之一是回歸模型的解釋變數之間不存在線性關系，也就是說，解釋變數X1，X2，……，Xk中的任何一個都不能是其他解釋變數的線性組合。如果違背這一假定，即線性回歸模型中某一個解釋變數與其他解釋變數間存在線性關系，就稱線性回歸模型中存在多重共線性。多重共線性違背了解釋變數間不相關的古典假設，將給普通最小二乘法帶來嚴重後果。
這里，我們總結了8個處理多重共線性問題的可用方法，大家在遇到多重共線性問題時可作參考：
1、保留重要解釋變數，去掉次要或可替代解釋變數
2、用相對數變數替代絕對數變數
3、差分法
4、逐步回歸分析
5、主成份分析
6、偏最小二乘回歸
7、嶺回歸
8、增加樣本容量
這次我們主要研究逐步回歸分析方法是如何處理多重共線性問題的。
逐步回歸分析方法的基本思想是通過相關系數r 、擬合優度R2 和標准誤差三個方面綜合判斷一系列回歸方程的優劣，從而得到最優回歸方程。具體方法分為兩步：
第一步，先將被解釋變數y對每個解釋變數作簡單回歸:
對每一個回歸方程進行統計檢驗分析（相關系數r 、擬合優度R2 和標准誤差），並結合經濟理論分析選出最優回歸方程，也稱為基本回歸方程。
第二步，將其他解釋變數逐一引入到基本回歸方程中，建立一系列回歸方程，根據每個新加的解釋變數的標准差和復相關系數來考察其對每個回歸系數的影響，一般根據如下標准進行分類判別：
1.如果新引進的解釋變數使R2 得到提高,而其他參數回歸系數在統計上和經濟理論上仍然合理，則認為這個新引入的變數對回歸模型是有利的，可以作為解釋變數予以保留。
2.如果新引進的解釋變數對R2 改進不明顯，對其他回歸系數也沒有多大影響，則不必保留在回歸模型中。
3.如果新引進的解釋變數不僅改變了R2 ，而且對其他回歸系數的數值或符號具有明顯影響，則認為該解釋變數為不利變數，引進後會使回歸模型出現多重共線性問題。不利變數未必是多餘的，如果它可能對被解釋變數是不可缺少的，則不能簡單舍棄，而是應研究改善模型的形式，尋找更符合實際的模型，重新進行估計。如果通過檢驗證明回歸模型存在明顯線性相關的兩個解釋變數中的其中一個可以被另一個很好地解釋，則可略去其中對被解釋變數影響較小的那個變數，模型中保留影響較大的那個變數。
下邊我們通過實例來說明逐步回歸分析方法在解決多重共線性問題上的具體應用過程。
具體實例
例1 設某地10年間有關服裝消費、可支配收入、流動資產、服裝類物價指數、總物價指數的調查數據如表1，請建立需求函數模型。
表1 服裝消費及相關變數調查數據
年份
服裝開支
C
（百萬元）
可支配收入
Y
（百萬元）
流動資產
L
（百萬元）
服裝類物價指數Pc
1992年=100
總物價指數
P0
1992年=100
1988
8.4
82.9
17.1
92
94
1989
9.6
88.0
21.3
93
96
1990
10.4
99.9
25.1
96
97
1991
11.4
105.3
29.0
94
97
1992
12.2
117.7
34.0
100
100
1993
14.2
131.0
40.0
101
101
1994
15.8
148.2
44.0
105
104
1995
17.9
161.8
49.0
112
109
1996
19.3
174.2
51.0
112
111
1997
20.8
184.7
53.0
112
111
（1）設對服裝的需求函數為

用最小二乘法估計得估計模型：

模型的檢驗量得分，R2=0.998，D·W=3.383，F=626.4634
R2接近1，說明該回歸模型與原始數據擬合得很好。由得出拒絕零假設，認為服裝支出與解釋變數間存在顯著關系。
（2）求各解釋變數的基本相關系數

上述基本相關系數表明解釋變數間高度相關，也就是存在較嚴重的多重共線性。
（3）為檢驗多重共線性的影響，作如下簡單回歸：

各方程下邊括弧內的數字分別表示的是對應解釋變數系數的t檢驗值。
觀察以上四個方程，根據經濟理論和統計檢驗（t檢驗值=41.937最大，擬合優度也最高），收入Y是最重要的解釋變數，從而得出最優簡單回歸方程。
（4）將其餘變數逐個引入，計算結果如下表2：
表2服裝消費模型的估計
結果分析：
①在最優簡單回歸方程中引入變數Pc，使R2由0.9955提高到0.9957；根據經濟理論分析，正號，負號是合理的。然而t檢驗不顯著（），而從經濟理論分析，Pc應該是重要因素。雖然Y與Pc高度相關，但並不影響收入Y回歸系數的顯著性和穩定性。依照第1條判別標准，Pc可能是「有利變數」，暫時給予保留。
②模型中引入變數L ，R2 由0.9957提高到0.9959， 值略有提高。一方面，雖然Y 與L ，Pc與L 均高度相關，但是L 的引入對回歸系數、的影響不大（其中的值由0.1257變為0.1387，值由-0.0361變為-0.0345，變化很小）；另一方面，根據經濟理論的分析，L與服裝支出C之間應該是正相關關系，即的符號應該為正號而非負號，依照第2條判別標准，解釋變數L不必保留在模型中。
③捨去變數L ，加入變數P0 ，使R2 由0.9957提高到0.9980，R2 值改進較大。、、均顯著（這三個回歸系數的t檢驗值絕對值均大於），從經濟意義上看也是合理的（服裝支出C與Y,P0之間呈正相關，而與服裝價格Pc之間呈負相關關系）。根據判別標准第1條，可以認為Pc、P0皆為「有利變數」，給予保留。
④最後再引入變數L ，此時R2 ＝0.9980沒有增加（或幾乎沒有增加），新引入變數對其他三個解釋變數的參數系數也沒有產生多大影響，可以確定L 是多餘變數，根據判別標准第2條，解釋變數L 不必保留在模型中。
因此我們得到如下結論：回歸模型為最優模型。
通過以上案例的分析，我們從理論和實際問題兩方面具體了解了逐步回歸分析是如何對多重共線性問題進行處理的。事實上，一般統計軟體如SPSS，在回歸模型的窗口中都會提供變數逐步進入的選項，勾選後實際上就是選擇了運用逐步回歸的思想來構建回歸模型。運用SPSS軟體不需要我們懂得其背後的運行規律，然而作為分析師，了解並理解模型背後的理論知識，將更有助於我們理解模型、解釋結論背後的內在含義，從而達到更好地分析問題的目的。

Ⅸ 曲線回歸的操作步驟

Excel步驟如下：
1、將數據輸入excel表格中，行表示或列表示均可。
2、選定數據區域，然後單擊工具欄中的「圖表向導」(或在菜單欄單擊「插入」－「圖表」)，彈出對話框，選擇「xy散點圖」，再選擇子圖表中的第一個散點圖。
3、按「下一步」，大概的圖就完成了，它會讓你選擇所產生的數據是「行」或「列」，根據你的要求選擇。再點擊下一步，可以將行或列的標題內容填入。接著點擊「下一步」之後點「完成」。圖表就完成了。
4、選擇圖表上的任意一個點（選中一個點之後，其餘的點都變為黃色了），單擊右鍵，選擇「添加趨勢線」。在「添加趨勢線」對話框中的「類型」選「線性」，在「選項」中把「顯示公式」和「顯示R平方值」點上，如果你不想設置截距，就不用點擊「設置截距」。
spss操作步驟：
「分析」～「回歸」～「曲線估計」
基本原理：線性回歸不能解決所有問題，盡管有可能通過一些函數的轉換，在一定范圍內將因變數，自變數之間的關系轉化為線性關系，但是，這種轉換有可能導致更復雜的計算或者失真。如果線性模型不能確定哪一種為最佳，就需要嘗試曲線擬合的方法。這樣能建立一個簡單並且合適的模型。
要求：自變數可以為一個或者多個，因變數只能為一個。如果自變數為時間變數，可以在「保存」對話框的「預測觀測量」欄指定一種超出當前數據時間序列范圍的預測周期。意思就是用已經有了的時間預測未來。但是，首先需要在此欄中設置。系統會根據設置的時間自動進行預測。
「從估計期到最後一個個案預測」如果沒有指定這個選項，系統默認使用所有的觀測量。但是，如果指定，就使用指定的觀測量，意思就是讓你根據需要篩選個案值。
「預測范圍」根據預先設定的周期，對特定的數據，在指定的時間內進行預測。也就是需要選擇一個超出時間變數的所有觀測量的范圍，這個超出的時間才有資格成為預測范圍，這就是需要人腦分析並根據實際需要，設置一個未來的范圍，系統就會根據設置的這個未來范圍進行分析，得出結果。
結果：1 方差分析表：此表是每一個模型具有一個，只要選擇，就分別在主對話框已經選擇的模型輸出。如果小於95%置信區間的小概率0.05，就說明有統計意義，這個模型有希望，能夠進行擬合。反之亦然。
2 R方和調整R方：如果二者越接近1說明模型的擬合效果越好。
3 圖形：從此圖中可以一目瞭然哪種模型最好，也就是哪種模型和所有的散點越接近。
4系數：根據非標准化系數，和它對應的變數，即可寫出相應的曲線回歸方程。
5 殘差：一個補充的判斷最優模型的方法。操作：「分析」～「回歸」～「曲線估計」～「保存」子對話框～「保存變數」框～「殘差」。會生成相應的殘差新變數，有幾個模型就有幾個新變數。
在對這些新變數進行序列圖分析。進一步操作：「分析」～「預測」～「序列圖」～「變數」框～將殘差變數都選中
結果圖形判斷方法：最平穩的就是最合適的方程。

Ⅹ 多元線性回歸多重共線性檢驗及避免方法，簡單點的

多重共線性指自變數問存在線性相關關系，即一個自變數可以用其他一個或幾個自變數的線性表達式進行表示。若存在多重共線性，計算自變數的偏回歸系數β時，矩陣不可逆，導致β存在無窮多個解或無解。
而在使用多元線性回歸構建模型過程中，變數之間存在多重共線性問題也是比較常見的。那麼當發現多重線性回歸模型中存在多重共線性時我們該如何處理呢？
可通過以下方法予以解決：
(1)逐步回歸
使用逐步回歸可以在一定程度上篩選存在多重共線性的自變數組合中對反應變數變異解釋較大的變數，而將解釋較小的變數排除在模型之外。
但這種方法缺點是當共線性較為嚴重時，變數自動篩選的方法並不能完全解決問題。
(2) 嶺回歸
嶺回歸為有偏估計，但能有效地控制回歸系數的標准誤大小。
(3) 主成分回歸
可以使用主成分分析的方法對存在多重共線性的自變數組合提取主成分，然後以特徵值較大的（如大於1）幾個主成分與其他自變數一起進行多重線性回歸。得出的主成分回歸系數再根據主成分表達式反推出原始自變數的參數估計。
該方法在提取主成分時丟失了一部分信息，幾個自變數間的多重共線性越強，提取主成分時丟失的信息越少。
(4) 路徑分析
如果對自變數間的聯系規律有比較清楚的了解，則可以考慮建立路徑分析模型，以進行更深入的研究。