Normalite, Normallik veya Normal Dağılım Testleri

N

 

1.  Normal Dağılım Varsayımı

Aşağıdaki gibi bir model olsun.

{Y_t} = {\beta _0} + {\beta _1}{X_{1,t - 1}} + {\beta _2}{X_{2,t}} + {\beta _3}{X_{3,t - 1}} + {\beta _4}{X_{4,t}} + {\varepsilon _t}

EKK (En Küçük Kareler, Ordinary Least Squares, OLS) tahmin edicisinin önemli varsayımlarından biri doğrusal bir modelin “hata terimlerinin” normal dağılıma sahip olduğudur. Yukarıdaki modelde hata terimi \varepsilon (Epsilon) ile temsil edilmiştir.

\varepsilon  \sim N\left( {\mu  = 0,{\text{ }}{\delta ^2} = \delta _\varepsilon ^2} \right)

Burada \mu(Mu) hata teriminin ortalamasını, {\delta ^2}(Sigma kare) ise hata teriminin (sabit kabul edilen) varyansını ifade eder. Hata teriminin ortalaması \mu’nun değerinin sıfır, varyansı {\delta ^2}’nin değerinin ise bir sabit olan \delta _\varepsilon ^2 olduğu kabul edilir.

\varepsilon  \sim N\left( {0,{\text{ }}\delta _\varepsilon ^2} \right)

Kısacası hata teriminin ortalamasının sıfır, varyansının \delta _\varepsilon ^2 olduğu yönündeki varsayım normalite varsayımı olarak adlandırılır. Normalite varsayımının geçerli olmadığı modellerin tahminleri de tutarlı olmayacaktır. Hata teriminin sıfır ortalama ve \delta _\varepsilon ^2 gibi bir varyans ile normal dağılıp dağılmadığını farklı koşullarda araştıran bazı test istatistikleri aşağıda açıklanacaktır.

Yukarıdaki model aşağıdaki tablodaki veriler ile EKK yardımıyla tahmin edildiğinde hata terimleri aşağıdaki gibi olacaktır.

{Y_t} = {\hat \beta _0} + {\hat \beta _1}{X_{1,t - 1}} + {\hat \beta _2}{X_{2,t}} + {\hat \beta _3}{X_{3,t - 1}} + {\hat \beta _4}{X_{4,t}} + {\hat \varepsilon _t}

Yukarıdaki hata terimleri tüm normalite testleri için örnek olarak kullanılacaktır.

2.  Kolmogorov – Smirnov Testi

S\left( \varepsilon  \right) “kesikli” bir rassal değişken kümesinin (hata terimlerinin) birikimli olasılık dağılım fonksiyonunu, \displaystyle F\left( \varepsilon  \right) ise “sürekli” bir rassal değişkenin standart normal dağılım fonksiyonunu temsil etmektedir.

\displaystyle S\left( \varepsilon \right) = \left\{ {\begin{array}{*{20}{c}} {0,}&{\varepsilon < {\varepsilon _1}}&{} \\ {t/n,}&{{\varepsilon _1} \leqslant \varepsilon \leqslant {\varepsilon _{t + 1}},}&{t = 1,2, \ldots ,\left( {n - 1} \right)} \\ {1,}&{\varepsilon \geqslant {\varepsilon _n}}&{} \end{array}{\text{ }}} \right.

Yukarıda n gözlem sayısını, t ise gözlem sırasını ifade eder. Ayrıca S\left( \varepsilon  \right) “kesikli” rassal değişkenler olan hata terimlerinin küçükten büyüğe doğru sıralanmış olduğunu göstermekte ve  \varepsilon’a eşit ve \varepsilon’dan küçük örnek birimlerinin oranını temsil etmektedir.

\displaystyle D = mak.\left\{ {\left| {S\left( {{\varepsilon _t}} \right) - F\left( {{\varepsilon _t}} \right)} \right|,{\text{ }}\left| {S\left( {{\varepsilon _{t - 1}}} \right) - F\left( {{\varepsilon _t}} \right)} \right|} \right\}

Yukarıdaki ifade ise örneklem dağılımının normal dağılımdan mutlak olarak maksimum ne kadar saptığını ya da uzaklaştığını temsil etmektedir.

Boş ve alternatif hipotezler ise aşağıdaki şekilde oluşturulur.

\displaystyle {H_0}:F\left( \varepsilon  \right) = {F_0} \sim N\left( {\mu ,{\text{  }}\delta _\varepsilon ^2} \right)

\displaystyle {H_0}:F\left( \varepsilon  \right) \ne {F_0} \sim N\left( {\mu ,{\text{  }}\delta _\varepsilon ^2} \right)

Eğer hesaplanan {D_{\operatorname{ma} k}} değeri, {D_\alpha } kritik değerini aşıyorsa hata terimlerinin \displaystyle \mu  ortalama ve \displaystyle \delta _\varepsilon ^2 varyans ile normal dağılmadığı, tersi durumda ise hata terimlerinin \displaystyle \mu  ortalama ve \displaystyle \delta _\varepsilon ^2 varyans ile normal dağıldığı sonucuna ulaşılır.

Eğer \displaystyle F\left( {{\varepsilon _t}} \right) değerleri hesaplandığında KS istatistiği de kolaylıkla hesaplanabilir. \displaystyle F\left( {{\varepsilon _t}} \right), hata terimlerinin \displaystyle \mu  ortalama ve \displaystyle \delta _\varepsilon ^2 varyans ile standart normal dağılıma dönüştürülmüş değerini ifade eder.

Hata terimleri “küçükten büyüğe” doğru sıralanır ve ilgili istatistikler aşağıda belirtildiği gibi hesaplanır.

\displaystyle S\left( {{{\hat \varepsilon }_t}} \right) = \frac{t}{n}

\displaystyle {D_t} = \left| {S\left( {{{\hat \varepsilon }_t}} \right) - F\left( {{{\hat \varepsilon }_t}} \right)} \right|

\displaystyle D_t^* = \left| {S\left( {{{\hat \varepsilon }_{t - 1}}} \right) - F\left( {{{\hat \varepsilon }_t}} \right)} \right|

\displaystyle \mu  hata teriminin ortalaması ve \displaystyle \sigma  (Sigma) hata teriminin standart hatası olmak üzere \displaystyle \mu {\text{ = 0}}{\text{, }}\sigma  = 85,36 olarak hesaplanmıştır. Hata teriminin varyansı ise standart hatasının karesi olduğundan \displaystyle \delta _\varepsilon ^2 = 7287,12 olarak hesaplanır.

Yukarıdaki tabloda \displaystyle D_t^* içindeki maksimum değer 0,1890 iken \displaystyle {D_t} içindeki maksimum değer 0,3421 olarak hesaplanmıştır. Dolayısıyla daha büyük olan D değeri maksimum (\displaystyle {D_{mak}} = D_t^*) olarak kabul edilir.

D_{{\alpha  \mathord{\left/ {\vphantom {\alpha  2}} \right. \kern-\nulldelimiterspace} 2},{\text{ }}n}^{Tablo} = D_{0,025,{\text{ }}6}^{Tablo} = 0,5193

\displaystyle {D_{mak}} = 0,3421

{D_{mak}} < D_{0,025,{\text{ }}6}^{Tablo}olduğundan boş hipotez kabul edilir ve hata terimlerinin \displaystyle \mu  = 0 ortalama ve \displaystyle \delta _\varepsilon ^2 = 7287,12 varyans ile normal dağılıma uyduğu sonucuna ulaşılır.

3.  Shapiro – Wilk Testi

Shapiro – Wilk testi Kolmogorov – Smirnov testinden türetilmiş daha kapsamlı ve güçlü bir normalite testidir. Aşağıdaki adımlar izlenerek test istatistiği hesaplanır.

  1. Kolmogorov testinde olduğu gibi hata terimleri küçükten büyüğe doğru sıralanır.
  2. Gözlem sayısı n çift sayı, yani \displaystyle n = 2kise b değeri a değerlerine tablodan bakılarak aşağıdaki gibi hesaplanır.

\displaystyle b = \sum\limits_{t = 1}^k {{a_t}\left( {{\varepsilon _{n - t + 1}} - {\varepsilon _t}} \right)}

  1. Gözlem sayısı n tek sayı, yani \displaystyle n = 2k + 1ise b değeri a değerlerine tablodan bakılarak aşağıdaki gibi hesaplanır.

\displaystyle b = \sum\limits_{t = 1}^k {{a_t}\left( {{\varepsilon _{n - t + 1}} - {\varepsilon _t}} \right)}

  1. Shapiro – Wilk test istatistiği hesaplanır.

\displaystyle W = \frac{{{b^2}}}{{\delta _\varepsilon ^2}}

  1. Boş hipotez hata terimlerinin normal dağılıma uyduğunu, alternatif hipotez ise uymadığını ifade eder.

\displaystyle {H_0}:F\left( \varepsilon  \right) = {F_0} \sim N

\displaystyle {H_1}:F\left( \varepsilon  \right) \ne {F_0} \sim N

  1. W > W_{\alpha ,{\text{ }}n}^{Tablo} ise boş hipotez kabul edilir ve hata terimlerinin normal dağılıma uyduğu sonucuna ulaşılır. W < W_{\alpha ,{\text{ n}}}^{Tablo} ise boş hipotez reddedilir ve hata terimlerinin normal dağılıma uymadığı sonucuna varılır.

\displaystyle n = 2k iken \displaystyle b = \sum\limits_{t = 1}^k {{a_t}\left( {{\varepsilon _{n - t + 1}} - {\varepsilon _t}} \right)}  değerinin kuramsal ve sayısal olarak hesaplanması aşağıdaki tablolarda gösterilmiştir.

\displaystyle b = \sum\limits_{t = 1}^3 {{a_t}\left( {{\varepsilon _{n - t + 1}} - {\varepsilon _t}} \right)}

KS istatistiğinden farklı olarak SW istatistiğinde \displaystyle \delta _\varepsilon ^2, regresyondan hesaplanan varyans (regresyonun standart hatasının karesi) olup örneğimiz için 36435,17’dir.

k modeldeki katsayı adeti olmak üzere regresyonun varyansı aşağıdaki gibi hesaplanır.

\displaystyle \frac{{\sum\limits_{t = 1}^n {\varepsilon _t^2} }}{{n - k}} = \frac{{\sum\limits_{t = 1}^6 {\varepsilon _t^2} }}{{6 - 5}} = 36435,17

Gerekli parametreler hesaplandığına göre SW istatistiği aşağıdaki gibi hesaplanır.

\displaystyle W = \frac{{{b^2}}}{{\delta _\varepsilon ^2}} = \frac{{29335,24}}{{36435,17}} = 0,8051

\displaystyle W_{\alpha ,{\text{ n}}}^{Tablo} = W_{0,05,{\text{ 6}}}^{Tablo} = 0,788

W > W_{0,05,{\text{ 6}}}^{Tablo} olduğundan boş hipotez kabul edilir ve hata terimlerinin normal dağılıma uyduğu sonucuna varılır.

\displaystyle n = 2k + 1 iken de \displaystyle b = \sum\limits_{t = 1}^k {{a_t}\left( {{\varepsilon _{n - t + 1}} - {\varepsilon _t}} \right)}  değerinin kuramsal olarak hesaplanması aşağıdaki tabloda gösterilmiştir.

\displaystyle b = \sum\limits_{t = 1}^3 {{a_t}\left( {{\varepsilon _{n - t + 1}} - {\varepsilon _t}} \right)}

4.  Anderson – Darling Testi

Anderson – Darling testi, Kolmogorov – Smirnov yaklaşımından türetilmiş olup hata terimlerinin normal dağılıma uyumunu ölçen güçlü bir parametrik normalite sınamasıdır. Küçük örneklem sayısına sahip rassal değişkenlerin normal dağılıma uyumunu ölçmek için de önerilmektedir.

AD istatistiği, parametreleri (ortalaması ve varyansı) bilinen “sürekli” bir rassal değişkenin standart normal dağılımını temsil eden \displaystyle F\left( \varepsilon  \right) yardımıyla aşağıdaki gibi hesaplanır.

\displaystyle AD =  - n - S

\displaystyle S = \sum\limits_{t = 1}^n {\left( {{{\left( {2t - 1} \right)} \mathord{\left/ {\vphantom {{\left( {2t - 1} \right)} n}} \right. \kern-\nulldelimiterspace} n}} \right)\left( {\ln \left[ {F\left( {{\varepsilon _t}} \right)} \right] + \ln \left[ {1 - F\left( {{\varepsilon _{n - t + 1}}} \right)} \right]} \right)}

AD istatistiğinin gözlem sayısı n’ye göre aşağıdaki gibi düzeltilerek kullanılması gerektiği önerilmektedir.

\displaystyle AD* = AD\left( {1 + \frac{{0,75}}{n} + \frac{{2,25}}{{{n^2}}}} \right)

Boş hipotez hata terimlerinin \displaystyle \mu  ortalama ve \displaystyle \delta _\varepsilon ^2 varyans ile normal dağılıma uyduğunu, alternatif hipotez ise hata terimlerinin \displaystyle \mu  ortalama ve \displaystyle \delta _\varepsilon ^2 varyans ile normal dağılıma uymadığını ifade eder.

\displaystyle {H_0}:F\left( \varepsilon  \right) = {F_0} \sim N\left( {\mu ,\delta _\varepsilon ^2} \right)

\displaystyle {H_1}:F\left( \varepsilon  \right) \ne {F_0} \sim N\left( {\mu ,\delta _\varepsilon ^2} \right)

AD* istatistiği \displaystyle \alpha  = 0,05 anlamlılık düzeyinde 0,752 değerinden küçük, yani \displaystyle AD_{0,05}^* < 0,752  ise boş hipotez kabul edilir ve hata terimlerinin \displaystyle \mu  ortalama ve \displaystyle \delta _\varepsilon ^2 varyans ile normal dağılıma uyduğu sonucuna ulaşılır. AD* istatistiği \displaystyle \alpha  = 0,05 anlamlılık düzeyinde 0,752 değerinden büyük, yani \displaystyle AD_{0,05}^* > 0,752 ise boş hipotez reddedilir ve hata terimlerinin \displaystyle \mu  ortalama ve \displaystyle \delta _\varepsilon ^2 varyans ile normal dağılıma uymadığı sonucuna varılır.

Eğer \displaystyle F\left( {{\varepsilon _t}} \right) değerleri hesaplandığında AD* istatistiği de kolaylıkla hesaplanabilir. \displaystyle F\left( {{\varepsilon _t}} \right) değerlerinin nasıl hesaplanacağı KS istatistiği kısmında bahsedilmişti.

AD* istatistiğinin hesaplanmasına dair kuramsal ve (başlangıçtaki modelin hata terimleri üzerinden) sayısal yaklaşımlar aşağıdaki tablolarda gösterilmektedir.

\displaystyle S = \sum\limits_{t = 1}^n {\left( {{{\left( {2t - 1} \right)} \mathord{\left/ {\vphantom {{\left( {2t - 1} \right)} n}} \right. \kern-\nulldelimiterspace} n}} \right)\left( {\ln \left[ {F\left( {{\varepsilon _t}} \right)} \right] + \ln \left[ {1 - F\left( {{\varepsilon _{n - t + 1}}} \right)} \right]} \right)}

A=\displaystyle {{\left( {2t - 1} \right)} \mathord{\left/ {\vphantom {{\left( {2t - 1} \right)} n}} \right. \kern-\nulldelimiterspace} n}

B=\displaystyle \ln \left[ {F\left( {{{\hat \varepsilon }_t}} \right)} \right]

C=\displaystyle \ln \left[ {1 - F\left( {{{\hat \varepsilon }_{n - t + 1}}} \right)} \right]

\displaystyle AD =  - n - S

\displaystyle AD =  - 6 - \left( { - 6,625} \right) = 0,625

\displaystyle AD* = AD\left( {1 + \frac{{0,75}}{n} + \frac{{2,25}}{{{n^2}}}} \right)

\displaystyle AD* = 0,625\left( {1 + \frac{{0,75}}{6} + \frac{{2,25}}{{{6^2}}}} \right)

\displaystyle AD* = 0,742

\displaystyle AD_{0,05}^* = 0,742 < 0,752olduğundan boş hipotez kabul edilir ve hata terimlerinin \displaystyle \mu  = 0 ortalama ve \displaystyle \delta _\varepsilon ^2 = 7287,123 varyans ile normal dağılıma uyduğu sonucuna ulaşılır.

5.  Jarque – Bera Testi

Jarque – Bera Testi, hata terimlerinin normal dağılıma uyumunu ölçen parametrik olmayan bir normalite sınamasıdır.

\displaystyle JB = \frac{n}{6}\left( {{S^2} + \frac{{{{\left( {K - 3} \right)}^2}}}{4}} \right)

Burada n gözlem sayısını, S hata terimlerinin çarpıklık (skewness) ölçüsünü, K ise basıklık (kurtosis) ölçüsünü temsil edip S ve K aşağıdaki şekilde hesaplanır.

\displaystyle S = \frac{{\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^3}} }}{{{{\left( {\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^2}} } \right)}^{{3 \mathord{\left/ {\vphantom {3 2}} \right. \kern-\nulldelimiterspace} 2}}}}}

\displaystyle K = \frac{{\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^4}} }}{{{{\left( {\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^2}} } \right)}^2}}}

Yukarıdaki ifadelerde \displaystyle \mu  , hata terimi \displaystyle {\varepsilon _t}’nin ortalamasını temsil eder.

JB istatistiği aşağıdaki gibi de hesaplanabilir.

\displaystyle JB = \frac{{n - k + 1}}{6}\left( {{S^2} + \frac{{{{\left( {K - 3} \right)}^2}}}{4}} \right)

Burada k bağımsız değişken sayısını temsil etmekte olup birden fazla bağımsız değişken içeren modeller için JB istatistiğinin yukarıdaki gibi düzeltilmesi gerektiği savunulur.

Boş hipotez hata terimlerinin normal dağılıma uyduğunu, alternatif hipotez ise uymadığını ifade eder.

\displaystyle {H_0}:F\left( \varepsilon  \right) = {F_0} \sim N

\displaystyle {H_1}:F\left( \varepsilon  \right) \ne {F_0} \sim N

JB istatistiği asimptotik olarak \displaystyle \alpha  = 0,05 anlamlılık düzeyinde serbestlik derecesi 2 olan ki-kare \displaystyle \chi _{0,05,{\text{ 2}}}^2 dağılımına yaklaşır. Hata terimleri, normal dağılımın çarpıklık ve basıklık ölçüsünden uzaklaştıkça JB istatistiği artar.

\displaystyle JB < \chi _{0,05,{\text{ 2}}}^2 = 5,99  ise boş hipotez kabul edilir ve hata terimlerinin normal dağılıma uyduğu sonucuna ulaşılır. \displaystyle JB > \chi _{0,05,{\text{ 2}}}^2 = 5,99 ise boş hipotez reddedilir ve hata terimlerinin normal dağılıma uymadığı sonucuna varılır.

Eğer S ve K değerleri hesaplandığında JB istatistiği de kolaylıkla hesaplanabilir.

S değerinin hesaplanmasına dair kuramsal ve (başlangıçtaki modelin hata terimleri üzerinden) sayısal yaklaşımlar aşağıdaki tablolarda gösterilmektedir.

\displaystyle S = \frac{{\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^3}} }}{{{{\left( {\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^2}} } \right)}^{{3 \mathord{\left/ {\vphantom {3 2}} \right. \kern-\nulldelimiterspace} 2}}}}}

\displaystyle \frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^3}}  = {T_{S,{\text{ }}PAY}}

\displaystyle \frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^2}}  = {T_{S,{\text{ }}PAYDA}}

Bilindiği gibi \displaystyle \mu  , hata teriminin ortalaması olup 0’a eşittir. \displaystyle {T_{S,{\text{ }}PAY}} ifadesi S’nin pay kısmı toplamını,  \displaystyle {T_{S,{\text{ }}PAYDA}} ifadesi ise S’nin payda kısmı toplamını ifade etmektedir. Sonuç olarak aşağıdaki ifade S değerini verecektir.

\displaystyle S = \frac{{{T_{S,{\text{ }}PAY}}}}{{{{\left( {{T_{S,{\text{ }}PAYDA}}} \right)}^{{3 \mathord{\left/ {\vphantom {3 2}} \right. \kern-\nulldelimiterspace} 2}}}}}

\displaystyle S = \frac{{{T_{S,{\text{ }}PAY}}}}{{{{\left( {{T_{S,{\text{ }}PAYDA}}} \right)}^{{3 \mathord{\left/ {\vphantom {3 2}} \right. \kern-\nulldelimiterspace} 2}}}}} = \frac{{323581,75}}{{{{\left( {6072,60} \right)}^{{3 \mathord{\left/ {\vphantom {3 2}} \right. \kern-\nulldelimiterspace} 2}}}}}

\displaystyle S = \frac{{323581,75}}{{473219,09}} = 0,6838

\displaystyle K = \frac{{\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^4}} }}{{{{\left( {\frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^2}} } \right)}^2}}}

\displaystyle \frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^4}}  = {T_{K,{\text{ }}PAY}}

\displaystyle \frac{1}{n}\sum\limits_{t = 1}^n {{{\left( {{\varepsilon _t} - \mu } \right)}^2}}  = {T_{K,{\text{ }}PAYDA}}

\displaystyle {T_{K,{\text{ }}PAY}} ifadesi K’nin pay kısmı toplamını,  \displaystyle {T_{K,{\text{ }}PAYDA}} ifadesi ise K’nin payda kısmı toplamını ifade etmektedir. Sonuç olarak aşağıdaki ifade K değerini verecektir.

\displaystyle K = \frac{{{T_{K,{\text{ }}PAY}}}}{{{{\left( {{T_{K,{\text{ }}PAYDA}}} \right)}^2}}}

\displaystyle K = \frac{{{T_{K,{\text{ }}PAY}}}}{{{{\left( {{T_{K,{\text{ }}PAYDA}}} \right)}^2}}} = \frac{{60967156,88}}{{{{\left( {6072,60} \right)}^2}}}

\displaystyle K = \frac{{60967156,88}}{{36876498,14}} = 1,6533

Gözlem sayısı n=6 olduğuna ve S ile K değerleri bilindiğine göre JB istatistiği aşağıdaki gibi hesaplanır.

\displaystyle JB = \frac{n}{6}\left( {{S^2} + \frac{{{{\left( {K - 3} \right)}^2}}}{4}} \right)

\displaystyle JB = \frac{6}{6}\left( {{{0,6838}^2} + \frac{{{{\left( {1,6533 - 3} \right)}^2}}}{4}} \right)

\displaystyle JB = 0,92

\displaystyle JB = 0,92 < \chi _{0,05,{\text{ 2}}}^2 = 5,99 olduğundan boş hipotez kabul edilir ve hata terimlerinin normal dağılıma uyduğu sonucuna ulaşılır.

 

İshak Kutlu, Ekonometri Notları

 

Yorum Yap

İshak Kutlu

Veri & Otomasyon Uzmanı

Kurumsal iş akışlarını düzenleyen veri odaklı otomasyon sistemleri ve makine öğrenmesi tabanlı çözümler geliştirir. Gerçek operasyonel süreçler için ölçeklenebilir ve izlenebilir yapılar tasarlar.

YouTube   YouTube   YouTube   YouTube