資料分析方法彙總

2022-09-12 23:54:03 字數 4535 閱讀 7233

一、描述統計

描述性統計是指運用製表和分類,圖形以及計筠概括性資料來描述資料的集中趨勢、離散趨勢、偏度、峰度。

1、缺失值填充:常用方法:剔除法、均值法、最小鄰居法、比率\回歸法、決策樹法。

2、正態性檢驗:很多統計方法都要求數值服從或近似服從正態分佈,所以之前需要進行正態性檢驗。常用方法:非引數檢驗的k-量檢驗、p-p圖、q-q圖、w檢驗、動差法。

二、假設檢驗1、引數檢驗

引數檢驗是在已知總體分布的條件下(一股要求總體服從正態分佈)對一些主要的引數(如均值、百分數、方差、相關係數等)進行的檢驗。1)u驗使用條件:當樣本含量n較大時,樣本值符合正態分佈2)t檢驗使用條件:

當樣本含量n較小時,樣本值符合正態分佈

a單樣本

t檢驗:推斷該樣本來自的總體均數μ與已知的某一總體均數

μ0(常為理論值或標準值)有無差別;

b配對樣本t檢驗:當總體均數未知時,且兩個樣本可以配對,同對中的兩者在可能會影響處理效果的各種條件方面扱為相似;

c兩獨立樣本t檢驗:無法找到在各方面極為相似的兩樣本作配對比較時使用。

2、非引數檢驗

非引數檢驗則不考慮總體分布是否已知,常常也不是針對總體引數,而是針對總體的某些一股性假設(如總體分布的位罝是否相同,總體分布是否正態)進行檢驗。

適用情況:順序型別的資料資料,這類資料的分布形態一般是未知的。a雖然是連續資料,但總體分布形態未知或者非正態;

b體分布雖然正態,資料也是連續型別,但樣本容量極小,如10以下;主要方法包括:卡方檢驗、秩和檢驗、二項檢驗、遊程檢驗、k-量檢驗等。

三、信度分析

檢查測量的可信度,例如調查問卷的真實性。分類:

1、外在信度:不同時間測量時量表的一致性程度,常用方法重測信度2、內在信度;每個量表是否測量到單一的概念,同時組成兩表的內在體項一致性如何,常用方法分半信度。

四、列聯表分析

用於分析離散變數或定型變數之間是否存在相關。

對於二維表,可進行卡方檢驗,對於三維表,可作mentel-hanszel分層分析。

列聯表分析還包括配對計數資料的卡方檢驗、行列均為順序變數的相關檢驗。

五、相關分析

研究現象之間是否存在某種依存關係,對具體有依存關係的現象**相關方向及相關程度。

1、單相關:兩個因素之間的相關關係叫單相關,即研究時只涉及乙個自變數和乙個因變數;

2、復相關:三個或三個以上因素的相關關係叫復相關,即研究時涉及兩個或兩個以上的自變數和因變數相關;

3、偏相關:在某一現象與多種現象相關的場合,當假定其他變數不變時,其中兩個變數之間的相關關係稱為偏相關。

六、方差分析

使用條件:各樣本須是相互獨立的隨機樣本;各樣本來自正態分佈總體;各總體方差相等。分類

1、單因素方差分析:一項試驗只有乙個影響因素,或者存在多個影響因素時,只分析乙個因素與響應變數的關係

2、多因素有互動方差分析:一頊實驗有多個影響因素,分析多個影響因素與響應變數的關係,同時考慮多個影響因素之間的關係

3、多因素無互動方差分析:分析多個影響因素與響應變數的關係,但是影響因素之間沒有影響關係或忽略影響關係

4、協方差分祈:傳統的方差分析存在明顯的弊端,無法控制分析中存在的某些隨機因素,使之影響了分祈結果的準確度。協方差分析主要是在排除了協變數的影響後再對修正後的主效應進行方差分析,是將線性回歸與方差分析結合起來的一種分析方法。

七、回歸分析分類:

1、一元線性回歸分析:只有乙個自變數x與因變數y有關,x與y都必須是連續型變數,因變數y或其殘差必須服從正態分佈。2、多元線性回歸分析

使用條件:分析多個自變數與因變數y的關係,x與y都必須是連續型變數,因變數y或其殘差必須服從正態分佈。

1)變呈篩選方式:選擇最優回歸方程的變裡篩選法包括全橫型法(cp法)、逐步回歸法,向前引入法和向後剔除法2)橫型診斷方法:

a殘差檢驗:觀測值與估計值的差值要艱從正態分佈

b強影響點判斷:尋找方式一般分為標準誤差法、mahalanobis距離法c共線性診斷:

·診斷方式:容忍度、方差擴大因子法(又稱膨脹係數vif)、特徵根判定法、條件指標ci、方差比例

·處理方法:增加樣本容量或選取另外的回歸如主成分回歸、嶺回歸等

3、logistic回歸分析

線性回歸模型要求因變數是連續的正態分佈變裡,且自變數和因變數呈線性關係,而logistic回歸模型對因變數的分布沒有要求,一般用於因變數是離散時的情況分類:

logistic回歸模型有條件與非條件之分,條件logistic回歸模型和非條件logistic回歸模型的區別在於引數的估計是否用到了條件概率。4、其他回歸方法非線性回歸、有序回歸、probit回歸、加權回歸等

八、聚類分析

樣本個體或指標變數按其具有的特性進行分類,尋找合理的度量事物相似性的統計量。1、性質分類:

q型聚類分析:對樣本進行分類處理,又稱樣本聚類分祈使用距離係數作為統計量衡量相似度,如歐式距離、極端距離、絕對距離等r型聚類分析:對指標進行分類處理,又稱指標聚類分析使用相似係數作為統計量衡量相似度,相關係數、列聯絡數等2、方法分類:

1)系統聚類法:適用於小樣本的樣本聚類或指標聚類,一般用系統聚類法來聚類指標,又稱分層聚類

2)逐步聚類法:適用於大樣本的樣本聚類3)其他聚類法:兩步聚類、k均值聚類等

九、判別分析

1、判別分析:根據已掌握的一批分類明確的樣品建立判別函式,使產生錯判的事例最少,進而對給定的乙個新樣品,判斷它來自哪個總體2、與聚類分析區別

1)聚類分析可以對樣本逬行分類,也可以對指標進行分類;而判別分析只能對樣本

2)聚類分析事先不知道事物的類別,也不知道分幾類;而判別分析必須事先知道事物的類別,也知道分幾類

3)聚類分析不需要分類的歷史資料,而直接對樣本進行分類;而判別分析需要分類歷史資料去建立判別函式,然後才能對樣本進行分類3、進行分類:

1)fisher判別分析法:

以距離為判別準則來分類,即樣本與哪個類的距離最短就分到哪一類,適用於兩類判別;

以概率為判別準則來分類,即樣本屬於哪一類的概率最大就分到哪一類,適用於適用於多類判別。

2)bayes判別分析法:

bayes判別分析法比fisher判別分析法更加完善和先進,它不僅能解決多類判別分析,而且分析時考慮了資料的分布狀態,所以一般較多使用;

十、主成分分析

將彼此梠關的一組指標變適轉化為彼此獨立的一組新的指標變數,並用其中較少的幾個新指標變數就能綜合反應原多個指標變數中所包含的主要資訊。

十一、因子分析

一種旨在尋找隱藏在多變數資料中、無法直接觀察到卻影響或支配可測變數的潛在因子、並估計潛在因子對可測變數的影響程度以及潛在因子之間的相關性的一種多元統計分析方法與主成分分析比較:

相同:都能夠起到済理多個原始變數內在結構關係的作用

不同:主成分分析重在綜合原始變適的資訊.而因子分析重在解釋原始變數間的關係,是比主成分分析更深入的一種多元統計方法用途:

1)減少分析變數個數

2)通過對變數間相關關係探測,將原始變數進行分類

十二、時間序列分析

動態資料處理的統計方法,研究隨機資料序列所遵從的統計規律,以用於解決實際問題;時間序列通常由4種要素組成:趨勢、季節變動、迴圈波動和不規則波動。

主要方法:移動平均濾波與指數平滑法、arima橫型、量arima橫型、arimax模型、向呈自回歸橫型、arch族模型

十三、生存分析

用來研究生存時間的分布規律以及生存時間和相關因索之間關係的一種統計分析方法1、包含內容:

1)描述生存過程,即研究生存時間的分布規律

2)比較生存過程,即研究兩組或多組生存時間的分布規律,並進行比較

3)分析危險因素,即研究危險因素對生存過程的影響

4)建立數學模型,即將生存時間與相關危險因素的依存關係用乙個數學式子表示出來。2、方法:

1)統計描述:包括求生存時間的分位數、中數生存期、平均數、生存函式的估計、判斷生存時間的圖示法,不對所分析的資料作出任何統計推斷結論

2)非引數檢驗:檢驗分組變數各水平所對應的生存曲線是否一致,對生存時間的分布沒有要求,並且檢驗危險因素對生存時間的影響。

a乘積極限法(pl法)b壽命表法(lt法)

3)半引數橫型回歸分析:在特定的假設之下,建立生存時間隨多個危險因素變化的回歸方程,這種方法的代表是cox比例風險回歸分析法

4)引數模型回歸分析:已知生存時間服從特定的引數橫型時,擬合相應的引數模型,更準確地分析確定變數之間的變化規律

十四、典型相關分析

相關分析一般分析兩個變裡之間的關係,而典型相關分析是分析兩組變裡(如3個學術能力指標與5個在校成績表現指標)之間相關性的一種統計分析方法。

典型相關分析的基本思想和主成分分析的基本思想相似,,並且這少數幾對變數所包含的線性相關性的資訊幾乎覆蓋了原變數組所包含的全部相應資訊。

十五、r0c分析

r0c曲線是根據一系列不同的二分類方式(分界值或決定閾).以真陽性率(靈敏度)為縱座標,假陽性率(1-特異度)為橫座標繪製的曲線用途:

1、r0c曲線能很容易地查出任意界限值時的對疾病的識別能力用途;

2、選擇最佳的診斷界限值。r0c曲線越靠近左上角,試驗的準確性就越高;

3、兩種或兩種以上不同診斷試驗對疾病識別能力的比較,一股用r0c曲線下面積反映診斷系統的準確性。

十六、其他分析方法

多重響應分析、距離分祈、專案分祈、對應分祈、決策樹分析、神經網路、系統方程、蒙特卡洛模擬等。

資料分析方法

平衡分析法 所謂平衡就是各個互相聯絡的因素之間,在數量上保持一定的合理的對應關係。平衡分析法是分析事物之間相互關係的一種方法。它分析事物之間發展是否平衡,揭示出事物間出現的不平衡狀態 性質和原因,指引人們去研究積極平衡的方法,促進事物的發展。統計平衡分析的主要方法有編制平衡表和建立平衡關係式。平衡表...

面板資料分析方法總結

一般的順序是 先檢驗變數的平穩性,當變數均為同階單整變數時,再採用協整檢驗以判別變數間是否存在長期均衡關係。如果變數間存在長期均衡的關係,我們可以通過誤差修正模型 ecm 來檢驗變數間的長期因果關係 如變數間不存在協整關係,我們將對變數進行差分,然後通過向量自回歸模型 var 檢驗變數間的短期因果關...

巨集觀資料資料分析

cpi2011年10月份,全國居民消費 總水平同比 5.5 其中,城市 5.4 農村 5.9 食品 11.9 非食品 2.7 消費品 6.6 服務專案 2.8 cpi下降的主要原因分析 10月食品 趨於穩定,受歐元區債務危機進一步擴大的影響,歐元區經濟復甦狀況出現較大幅度的下滑,外圍 大跌 大宗商品...