多元回归方法.ppt
多元迴歸及其他相關方法
A.1
A.2補充兩個獨變項的線性方程(Linearequation)一個反應變項,兩個預測變項Y:反應變項或依變項(DependentVariable)b0,b1,b2:常數(constant)x1,x2:獨變項(IndependentVariable)FigureA.1E.g.,A.1Y=25+20x1+10x2(以平面表示)X1:工作時數X2:圖表數量b1=20:代表當x2(圖表數量)固定時,x1(工作時數)增加一個單位,y(價格)增加多少。b2=10:代表當x1(工作時數)固定時,x2(圖表數量)增加一個單位,y(價格)增加多少。線性方程式中,
b0稱為y-截距(y-intercept),
b1及b2稱為部分斜率(partialslope)。更多獨變項的線性方程式:
簡單線性迴歸與多元迴歸
(SimpleLinearRegressionvs.MultipleRegression)反應變項(ResponseVariable)預測變項(PredictorVariable)母群多元線性迴歸方程
(populationmultiplelinearregressionequation)兩個預測變項
多個預測變項β0為迴歸平面的Y截距β1,β2分別為X1與X2之部分斜率
估計迴歸參數(regressionparameters)e.g.,A.4(pricepredictedbyageandmileage)FigureA.2FigureA.3以最小平方法估計迴歸參數(迴歸平面)樣本迴歸方程式(sampleregressionequation)
迴歸係數是由Minimize
而得出。由車齡及里程數預測價格backA.43AdvertisingandSales.Ahousehold-appliancemanufacturerwantstoanalyzetherelationshipbetweentotalsalesandthecompany’sthreeprimarymeansofadvertising.Thefirstthreecolumnsofthetablebelowprovidetheexpendituresonadvertising,bytype,foreachof10randomlyselectedsalesperiods.Thefourthcolumncontainsthetotalsales.Alldataareinmillionsofdollars.Weperformedamultipleregressionanalysisonthedatausingthevariablestelevision,magazine,andradioadvertisingexpendituresaspredictorvariablesforsales.ThecomputeroutputisshowninPrintoutsA.4andA.5onpageA-23.PrintoutA.4迴歸模型的有效性簡單線性迴歸多元決定係數
(coefficientofmultipledetermination,ormultipleR2)
反應變項變異中可以由多元迴歸所能解釋的比例(0~1),e.g.,A.8?outputR2vs.r2R2的特性與r2相近R2隨預測變項的數量增加而增加多元線性迴歸方程式有效性的統計推論虛無及對立假設
Ha:至少有一個βi不等於0F-檢定
MSR:迴歸均方和(meansquareforregression,regressionmeansquare)
MSR=SSR/k
(k:預測變項數量,為迴歸自由度)MSE:誤差均方和(meansquareforerror,errormeansquare)
SSE/(n-1-k))
((n-1-k)為誤差自由度;總自由度為(n-1))TableA.2變異分析表(AnalysisofVarianceTable)另一個多元迴歸的例子(出自StatisticalMethodsforPsychol