Genel Doğrusal Modelin Varsayımları

İçindekiler

Ekonometrik modeller ağırlıklı olarak regresyon analizine dayanır. Regresyon analizi ise esas olarak en küçük kareler (EKK) yönteminden yararlanılarak elde edilen çıktıların yorumlanması sürecini temsil eder. Ekonometride ve/veya veri biliminde yoğun olarak kullanılan en küçük kareler (ordinary least squares, OLS) yönteminde temel amaç, hata terimlerinin kareleri toplamının minimize edilmesi yoluyla parametreleri tahmin etmektedir. Söz gelimi Y enflasyonu ve $\displaystyle {X_1}$ döviz kurunu temsil etmek üzere, döviz kurunda yaşanan değişimlerin enflasyon üzerindeki etkisinin sayısal olarak ölçülmesi amaçlandığında, belirli bir dönem aralığında enflasyon ve döviz kurunun gözlem değerleri elde edilerek aşağıdaki gibi spesifik bir model kurulur.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\varepsilon _i}$

Yukarıdaki modelde Y enflasyonu (bağımlı/içsel/açıklanan değişkeni), $\displaystyle {X_1}$ döviz kurunu (bağımsız/dışsal/açıklayıcı değişkeni) temsil eder. Döviz kuru sıfır iken enflasyonun beklenen değerini temsil eden $\displaystyle {\beta _0}$ (beta sıfır) parametresi sabit terimi, döviz kuru sıfırın dışında bir değer aldığında döviz kurunun enflasyona olan etkisini temsil eden $\displaystyle {\beta _1}$ (beta bir) parametresi döviz kurunun katsayısını ve $\displaystyle \varepsilon$ (epsilon) ifadesi ise hata terimini temsil etmektedir.

Deterministik kısım olarak adlandırılan Y ve $\displaystyle {X_1}$ değerlerinden hareketle, stokastik kısım olarak adlandırılan modelin parametrelerini temsil eden $\displaystyle \beta$ ve hata terimini temsil eden $\displaystyle \varepsilon$ değerleri en küçük kareler yöntemi (EKK) ile elde edilir. $\displaystyle \beta$ ve $\displaystyle \varepsilon$ değerleri, Y ve $\displaystyle {X_1}$ değerlerinin aksine gözlemlenen değerler olmayıp, gözlemlenen değerlerden yola çıkılarak olasılıksal olarak elde edilen istatistiksel değerler olduğundan stokastik ifadelerdir.

Yukarıdaki modelde yer alan (t ile de ifade edilebilen) “i” ifadeleri açıklanan ve açıklayıcı değişkenlerin gözlem sırasını temsil eder. Söz gelimi gözlem sayısı 30 ise, “i” ifadeleri, 1, 2, 3, …, 30 sıra no.lu gözlemleri ifade eder. Gözlem sıralarını temsil eden “i” ifadeleri sadece deterministik kısmı temsil eden açıklanan ve açıklayıcı değişkenler ile stokastik kısımda bulunan $\displaystyle \varepsilon$ hata terimi ifadelerinde yer alır; Stokastik kısımları temsil eden $\displaystyle \beta$ parametreleri ve $\displaystyle \varepsilon$ (epsilon) hata terimi, gözlem değerlerinden hareketle elde edilen istatistiksel değerlerdir. $\displaystyle \beta$ parametrelerinin 1’den 30’a (n’e) kadar değerleri değişmez. Söz gelimi birinci gözlemde $\displaystyle {\beta _0}$ =0,12, $\displaystyle {\beta _1}$ =0,03 vb. ise ikinci, üçüncü ve otuzuncu (n.inci) gözlemde de değerleri aynıdır. Ancak $\displaystyle \varepsilon$ hata teriminin birinci, ikinci ve otuzuncu (n.inci) değerleri birbirinden farklı olabilir. Söz gelimi enflasyonu temsil eden Y ifadesinin birinci gözlem değeri 0,23, ikinci gözlem değeri ise 0,15; döviz kurunu temsil eden $\displaystyle {X_1}$ ifadesinin birinci gözlem değeri 3, ikinci gözlem değeri ise 2 iken $\displaystyle \varepsilon$ hata teriminin birinci ve ikinci (hesaplanan) değeri aşağıda gösterilmiştir.

$\displaystyle {Y_1} = {\beta _0} + {\beta _1}{X_{11}} + {\varepsilon _1}$

$\displaystyle 0,23 = 0,12 + 0,03.3 + \underbrace {{\varepsilon _1}}_{0,02}$

$\displaystyle {Y_2} = {\beta _0} + {\beta _1}{X_{12}} + {\varepsilon _2}$

$\displaystyle 0,15 = 0,12 + 0,03.2 + \underbrace {{\varepsilon _2}}_{ - 0,03}$

Yukarıdaki denklemlerden de kolaylıkla anlaşılacağı gibi $\displaystyle {\beta _0}$ ve $\displaystyle {\beta _1}$ parametrelerinin değeri gözlem sırasına göre değişmediği ve her gözlem değerinin birbirinden farklı Y ve $\displaystyle {X_1}$ değerleri olduğundan, $\displaystyle \varepsilon$ hata terimlerinin birden otuza kadar denklemin eşitliğini sağlayan pozitif ve negatif değerleri vardır.

Yukarıdaki modelde birer adet açıklanan ve açıklayıcı değişken, iki parametre ve bir adet de hata terimi vardır. Yukarıdaki modelin k-1 adet açıklayıcı değişken olacak şekilde genişletilmiş formuna da genel doğrusal model denir.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

Yukarıdaki genel doğrusal modelin sabit terimi olduğu için k-1 adet açıklayıcı değişkeni ve sabit terim ile birlikte k adet parametresi vardır. Modeli tahmin etmek için kullanılan açıklanan ve açıklayıcı değişkenlerin gözlem sayısı “n” ve gözlem sırası “i” olmak üzere, “n” adet de (hesaplanan) $\displaystyle \varepsilon$ hata terimi olacaktır.

Gözlem Sırası	Gözlem Sırasına Göre Genel Doğrusal Model
i=1	$\displaystyle {Y_1} = {\beta _0} + {\beta _1}{X_{11}} + {\beta _2}{X_{21}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)1}} + {\varepsilon _1}$
i=2	$\displaystyle {Y_2} = {\beta _0} + {\beta _1}{X_{12}} + {\beta _2}{X_{22}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)2}} + {\varepsilon _2}$
i=3	$\displaystyle {Y_3} = {\beta _0} + {\beta _1}{X_{13}} + {\beta _2}{X_{23}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)3}} + {\varepsilon _3}$
$\displaystyle \vdots$	$\displaystyle \vdots$
i=n	$\displaystyle {Y_n} = {\beta _0} + {\beta _1}{X_{1n}} + {\beta _2}{X_{2n}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)n}} + {\varepsilon _n}$

Spesifik bir modelde veya genel doğrusal modelde EKK yönteminin uygulanabilmesi ve sonuçların istatistiki olarak anlamlı olarak yorumlanabilmesi için modelin temel bazı varsayımları sağlaması gerekir.

1. Varsayım:

Modelin parametreleri birer sabit, parametreleri ve hata terimleri ise doğrusal veya doğrusal olarak ifade edilebilir olmalıdır. Bu varsayım regresyon analizinde yararlanılan en küçük kareler yöntemi için son derece kritik bir öneme sahip varsayımlardan biridir.

Modelin parametrelerinin birer sabit olması, genel doğrusal modelden yararlanılarak açıklanabilir.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

“k” modelde bulunan parametre sayısını, “i” gözlem sırasını ve “n” gözlem sayısını temsil etmek üzere, yukarıdaki modele toplam sembolü ilave edilir.

$\displaystyle \sum\limits_{i = 1}^n {{Y_i}} = \sum\limits_{i = 1}^n {{\beta _0}} + \sum\limits_{i = 1}^n {{\beta _1}{X_{1i}}} + \sum\limits_{i = 1}^n {{\beta _2}{X_{1i}}} + \ldots + \sum\limits_{i = 1}^n {{\beta _{k - 1}}{X_{\left( {k - 1} \right)i}}} + \sum\limits_{i = 1}^n {{\varepsilon _i}}$

Yukarıdaki denklemde $\displaystyle {Y_i}$ , $\displaystyle {X_{1i}}$ , $\displaystyle {X_{2i}}$ , $\displaystyle {\varepsilon _i}$ gibi alt indisinde gözlem sırasını temsil eden “i” ifadesi olanlar birer sabit değildir. Alt indisinde “i” ifadesi bulunanların, gözlem sayısını temsil eden “n” ifadesine kadar birbirinden farklı değerleri vardır. Alt indisinde “i” ifadesi bulunmayan $\displaystyle {\beta _0}$ , $\displaystyle {\beta _1}$ , $\displaystyle {\beta _2}$ gibi parametrelerin, gözlem sayısını temsil eden “n” ifadesine kadar sadece birer sabit değeri vardır. Örneğin yukarıdaki modelde $\displaystyle {\beta _0}$ parametresinin bulunduğu toplam sembolünün açılımı aşağıdaki gibi olacaktır.

$\displaystyle \sum\limits_{i = 1}^n {{\beta _0}} = \underbrace {{\beta _0} + {\beta _0} + {\beta _0} + \ldots + {\beta _0}}_n = n.{\beta _0}$

$\displaystyle \sum\limits_{i = 1}^n {{\beta _0}} = n.{\beta _0}$

Farklı bir örnek olarak, yukarıdaki modelde $\displaystyle {\beta _1}$ parametresi ile $\displaystyle {X_{1i}}$ değişkeninin bir arada bulunduğu toplam sembolünün açılımı aşağıdaki gibi olacaktır.

$\displaystyle \sum\limits_{i = 1}^n {{\beta _1}{X_{1i}}} = {\beta _1}{X_{11}} + {\beta _1}{X_{12}} + {\beta _1}{X_{13}} + \ldots + {\beta _1}{X_{1n}}$

$\displaystyle \sum\limits_{i = 1}^n {{\beta _1}{X_{1i}}} = {\beta _1}\left( {{X_{11}} + {X_{12}} + {X_{13}} + \ldots + {X_{1n}}} \right)$

$\displaystyle \sum\limits_{i = 1}^n {{\beta _1}{X_{1i}}} = {\beta _1}\sum\limits_{i = 1}^n {{X_{1i}}}$

Modelin hata teriminin doğrusal olması ise modelin hata terimine göre kısmi türevinin 1’e eşit olmasını ifade eder.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

$\displaystyle \frac{{\partial {Y_i}}}{{\partial {\varepsilon _i}}} = 1$

$\displaystyle Y$ ve $\displaystyle \varepsilon$ ifadeleri birer matrisi temsil etmek üzere, yukarıdaki ilişki matris formunda aşağıdaki gibi ifade edilebilir.

$\displaystyle \frac{{\partial Y}}{{\partial \varepsilon }} = 1$

Modelin parametrelerinin doğrusal olması ise modelin parametrelerine göre kısmi türevlerinin 1’e eşit veya açıklayıcı değişkenlerinin bir fonksiyonu olmasını ifade eder.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

$\displaystyle \frac{{\partial {Y_i}}}{{\partial {\beta _0}}} = 1$

$\displaystyle \frac{{\partial {Y_i}}}{{\partial {\beta _1}}} = {X_{1i}}$

$\displaystyle \frac{{\partial {Y_i}}}{{\partial {\beta _2}}} = {X_{2i}}$

$\displaystyle \vdots$

$\displaystyle \frac{{\partial {Y_i}}}{{\partial {\beta _{\left( {k - 1} \right)}}}} = {X_{\left( {k - 1} \right)i}}$

“j” parametre sırasını ve k-1 parametre sayısını temsil etmek üzere, yukarıdaki ilişkiler daha genel olarak aşağıdaki gibi ifade edilebilir.

$\displaystyle \frac{{\partial {Y_i}}}{{\partial {\beta _j}}} = f\left( {{X_{ji}}} \right)$ , $\displaystyle j = 0,1,2, \ldots ,k - 1$

$\displaystyle Y$ , $\displaystyle X$ ve $\displaystyle \beta$ ifadeleri birer matrisi temsil etmek üzere, yukarıdaki ilişki matris formunda aşağıdaki gibi ifade edilebilir.

$\displaystyle \frac{{\partial Y}}{{\partial \beta }} = f\left( X \right)$

Eğer aşağıdaki gibi parametreler ve hata terimi açısından doğrusal olmayan (Cobb-Douglass tipi) bir model varsa, EKK yöntemi ile parametre tahmin edicilerini elde etmek için modelin parametreler ve hata terimi açısından doğrusal olarak ifade edilebilir bir forma dönüştürülmesi gerekir.

$\displaystyle Y = A{K^{{\beta _1}}}{L^{{\beta _2}}}{e^\varepsilon }$

Parametreler ve hata terimi açısından doğrusal olmayan yukarıdaki modelde A ifadesi sabit terimi, K ve L açıklayıcı/bağımsız değişkenleri, Y açıklanan/bağımlı değişkeni, $\displaystyle {\beta _1}$ ve $\displaystyle {\beta _2}$ sabit olan parametreleri ve $\displaystyle \varepsilon$ ise hata terimini temsil etmektedir.

Modeli parametreler ve hata terimi açısından doğrusal yapabilmek için modelin her iki tarafının da doğal logaritması (ln) alınır.

$\displaystyle \ln \left( Y \right) = \ln \left( {A{K^{{\beta _1}}}{L^{{\beta _2}}}{e^\varepsilon }} \right)$

Not 1.1: a, b ve c birer sabit, X, Y ve Z birer değişken ve e ise eular sabiti olmak üzere doğal logaritma (ln) için aşağıdaki işlem süreçleri tanımlıdır.

$\displaystyle \ln \left( {X.Y} \right) = \ln \left( X \right) + \ln \left( Y \right)$

$\displaystyle \ln \left( {c.X.Y} \right) = \ln \left( c \right) + \ln \left( X \right) + \ln \left( Y \right)$

$\displaystyle \ln \left( c \right) = a$

$\displaystyle \ln \left( X \right) = \ln \left( {c{Y^a}{Z^b}} \right) = \ln \left( c \right) + a.\ln \left( Y \right) + b.\ln \left( Z \right)$

$\displaystyle \ln \left( {{e^X}} \right) = X.\underbrace {\ln \left( e \right)}_1 = X$

1.1 no.lu nota göre ln ifadesi aşağıdaki gibi parantez içine dağıtılır.

$\displaystyle \ln \left( Y \right) = \ln \left( A \right) + \ln \left( {{K^{{\beta _1}}}} \right) + \ln \left( {{L^{{\beta _2}}}} \right) + \ln \left( {{e^\varepsilon }} \right)$

$\displaystyle \ln \left( A \right)$ ifadesinin $\displaystyle {\beta _0}$ gibi bir sabite eşit olduğu kabul edilir.

$\displaystyle \ln \left( Y \right) = \underbrace {\ln \left( A \right)}_{{\beta _0}} + \ln \left( {{K^{{\beta _1}}}} \right) + \ln \left( {{L^{{\beta _2}}}} \right) + \ln \left( {{e^\varepsilon }} \right)$

$\displaystyle \ln \left( Y \right) = {\beta _0} + \ln \left( {{K^{{\beta _1}}}} \right) + \ln \left( {{L^{{\beta _2}}}} \right) + \ln \left( {{e^\varepsilon }} \right)$

1.1 no.lu nota göre ln(e) ifadesi 1’e eşittir.

$\displaystyle \ln \left( Y \right) = {\beta _0} + {\beta _1}\ln \left( K \right) + {\beta _2}\ln \left( L \right) + \varepsilon \underbrace {\ln \left( e \right)}_1$

$\displaystyle \ln \left( Y \right) = {\beta _0} + {\beta _1}\ln \left( K \right) + {\beta _2}\ln \left( L \right) + \varepsilon$

Böylece parametreler ve hata terimi açısından doğrusal olmayan bir model, yukarıdaki işlem süreçleri ile doğrusal bir forma dönüştürülmüş olur.

2. Varsayım:

Y açıklanan değişkeni ile $\displaystyle {X_{1i}}$ , $\displaystyle {X_{2i}}$ gibi açıklayıcı değişkenlerin gözlemlenebilen deterministik değerleri olmalıdır. Y açıklanan değişkeni ile $\displaystyle {X_{1i}}$ , $\displaystyle {X_{2i}}$ gibi açıklayıcı değişkenlerin deterministik değerleri, $\displaystyle {\beta _1}$ ve $\displaystyle {\beta _2}$ gibi stokastik (olasılıksal) değerlere sahip parametrelerin tahmin edilmesinde kullanılmaktadır.

“j” parametre sırasını ve k-1 parametre sayısını temsil etmek üzere $\displaystyle {Y_i}$ açıklanan/bağımlı değişkeni, $\displaystyle {X_{1i}}$ , $\displaystyle {X_{2i}}$ gibi açıklayıcı/bağımsız değişkenlerin bir fonksiyonu olarak tanımlanabilir.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

$\displaystyle {Y_i} = f\left( {{X_{ji}}} \right)$ , $\displaystyle j = 0,1,2, \ldots ,k - 1$

3. Varsayım:

Hata terimlerinin beklenen değeri/aritmetik ortalaması sıfır olmalıdır. Diğer bir ifadeyle hata terimlerinin $\displaystyle {X_{1i}}$ , $\displaystyle {X_{2i}}$ gibi açıklayıcı değişkenlere göre koşullu beklenen değeri sıfır olmalıdır. “E” ifadesi beklenen değer operatörünü, $\displaystyle \bar \varepsilon$ ifadesi hata terimlerinin aritmetik ortalamasını temsil etmek üzere (hata teriminin beklenen değeri ile ortalaması birbirine eşit olup) aşağıdaki varsayımlar geçerli olmalıdır.

$\displaystyle \sum\limits_{i = 1}^n {{\varepsilon _i}} = {\varepsilon _1} + {\varepsilon _2} + {\varepsilon _3} + \ldots + {\varepsilon _n} = 0$

$\displaystyle E\left( {{\varepsilon _i}} \right) = \bar \varepsilon = \frac{1}{n}\left( {\sum\limits_{i = 1}^n {{\varepsilon _i}} } \right) = \frac{{{\varepsilon _1} + {\varepsilon _2} + {\varepsilon _3} + \ldots + {\varepsilon _n}}}{n} = 0$

Hata terimlerinin beklenen değerinin/aritmetik ortalamasının sıfır olması, hata terimlerinin $\displaystyle {X_{1i}}$ , $\displaystyle {X_{2i}}$ gibi açıklayıcı değişkenlere göre koşullu beklenen değeri çerçevesinde analizi aşağıda sunulmuştur.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + \ldots + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

$\displaystyle E\left[ {{\varepsilon _i}|{X_{1i}}} \right] = 0$ ( $\displaystyle \varepsilon$ ’nun beklenen değeri olup $\displaystyle {X_1}$ değişkeni belirli bir değer aldığında hata teriminin ortalaması sıfırdır.)

$\displaystyle E\left[ {{\varepsilon _i}|{X_{2i}}} \right] = 0$ ( $\displaystyle \varepsilon$ ’nun beklenen değeri olup $\displaystyle {X_2}$ değişkeni belirli bir değer aldığında hata teriminin ortalaması sıfırdır.)

$\displaystyle \vdots$

$\displaystyle E\left[ {{{\hat \varepsilon }_i}|{X_{\left( {k - 1} \right)i}}} \right] = 0$ ( $\displaystyle \varepsilon$ ’nun beklenen değeri olup $\displaystyle {X_{k - 1}}$ değişkeni belirli bir değer aldığında hata teriminin ortalaması sıfırdır.)

Aşağıdaki gibi basit bir spesifik model olsun.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\varepsilon _i}$ (3.1)

Yukarıdaki modelin $\displaystyle {X_{1i}}$ ifadesine göre koşullu beklenen değeri aşağıdaki gibi olur.

$\displaystyle E\left( {{Y_i}|{X_{1i}}} \right) = E\left( {{\beta _0}|{X_{1i}}} \right) + E\left( {{\beta _1}|{X_{1i}}} \right)E\left( {{X_{1i}}|{X_{1i}}} \right) + E\left( {{\varepsilon _i}|{X_{1i}}} \right)$

$\displaystyle {\beta _0}$ ve $\displaystyle {\beta _1}$ birer sabit ve bir sabitin beklenen değeri de yine kendisine eşit olduğundan $\displaystyle E\left( {{\beta _0}|{X_{1i}}} \right) = {\beta _0}$ ve $\displaystyle E\left( {{\beta _1}|{X_{1i}}} \right) = {\beta _1}$ olur.

$\displaystyle E\left( {{Y_i}|{X_{1i}}} \right) = {\beta _0} + {\beta _1}E\left( {{X_{1i}}|{X_{1i}}} \right) + E\left( {{\varepsilon _i}|{X_{1i}}} \right)$

$\displaystyle {X_{1i}}$ ifadesinin kendisine göre koşullu beklenen değeri yine kendisine eşit olduğundan $\displaystyle E\left( {{X_{1i}}|{X_{1i}}} \right) = {X_{1i}}$ olur.

$\displaystyle E\left( {{Y_i}|{X_{1i}}} \right) = {\beta _0} + {\beta _1}{X_{1i}} + E\left( {{\varepsilon _i}|{X_{1i}}} \right)$

$\displaystyle {\varepsilon _i}$ ifadesinin $\displaystyle {X_{1i}}$ ifadesine göre beklenen değeri sıfır, yani $\displaystyle E\left( {{\varepsilon _i}|{X_{1i}}} \right) = 0$ olmalıdır.

$\displaystyle E\left( {{Y_i}|{X_{1i}}} \right) = {\beta _0} + {\beta _1}{X_{1i}} + \underbrace {E\left( {{\varepsilon _i}|{X_{1i}}} \right)}_0$

$\displaystyle E\left( {{Y_i}|{X_{1i}}} \right) = {\beta _0} + {\beta _1}{X_{1i}}$ (3.2)

$\displaystyle E\left( {{Y_i}|{X_{1i}}} \right)$ ifadesi, $\displaystyle {Y_i}$ değişkeninin $\displaystyle {X_{1i}}$ değişkenine göre koşullu beklenen değerini, diğer bir ifadeyle $\displaystyle {X_{1i}}$ değişkeni belirli bir değer almışken $\displaystyle {Y_i}$ değişkeninin alacağı ortalama değeri temsil eder.

Yukarıda koşullu beklenen değer operatörü ile ifade edilen süreç, aşağıdaki gibi doğrudan beklenen değer operatörüyle de temsil edilebilir.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\varepsilon _i}$

“E” beklenen değer operatörü ilave edilir.

$\displaystyle E\left( {{Y_i}} \right) = E\left( {{\beta _0}} \right) + E\left( {{\beta _1}{X_{1i}}} \right) + E\left( {{\varepsilon _i}} \right)$

$\displaystyle {\beta _0}$ ve $\displaystyle {\beta _1}$ birer sabit ve bir sabitin beklenen değeri de yine kendisine eşittir.

$\displaystyle E\left( {{Y_i}} \right) = {\beta _0} + {\beta _1}E\left( {{X_{1i}}} \right) + E\left( {{\varepsilon _i}} \right)$

$\displaystyle {X_{1i}}$ ifadesinin (kendisine göre koşullu) beklenen değeri yine kendisine eşittir.

Not 3.1: Bu noktada $\displaystyle {X_{1i}}$ değişkeninin beklenen değeri ile aritmetik ortalamasının birbirinden farklı olduğuna dikkat edilmelidir. Çünkü yukarıda da belirtildiği gibi $\displaystyle {X_{1i}}$ ifadesinin kendisine göre koşullu beklenen değeri yine kendisine eşit olduğundan $\displaystyle E\left( {{X_{1i}}|{X_{1i}}} \right) = {X_{1i}}$ olur. Ancak $\displaystyle {Y_i}$ açıklanan değişkeninin ( $\displaystyle {X_{1i}}$ değişkenine göre koşullu) beklenen değeri $\displaystyle {Y_i}$ ifadesine veya $\displaystyle {Y_i}$ ifadesinin aritmetik ortalamasına $\displaystyle \left( {\bar Y} \right)$ eşit olmaz; $\displaystyle {X_{1i}}$ ifadesinin alacağı değere göre değişecektir. Diğer taraftan $\displaystyle {\varepsilon _i}$ ifadesinin ( $\displaystyle {X_{1i}}$ değişkenine göre koşullu) beklenen değeri ile aritmetik ortalaması (her ikisi de sıfıra eşit olduğu için) birbirine eşit $\displaystyle \left( {E\left( {{\varepsilon _i}} \right) = \bar \varepsilon } \right)$ olacaktır. $\displaystyle {\beta _0}$ ve $\displaystyle {\beta _1}$ gibi parametreler ise birer sabit olduğundan her birinin ( $\displaystyle {X_{1i}}$ değişkenine göre koşullu) beklenen değeri ile aritmetik ortalaması birbirine eşit olup sabit olan parametrelerin kendi değerine eşit olacaktır. Değişkenler ve sabitlerle ilgili aritmetik ortalamalar ve beklenen değerlere ilişkin yapılan bu açıklamaların EKK yönteminin kavranabilmesi bakımından son derece önemli olduğu belirtilmelidir.

$\displaystyle E\left( {{Y_i}} \right) = {\beta _0} + {\beta _1}{X_{1i}} + E\left( {{\varepsilon _i}} \right)$

$\displaystyle {\varepsilon _i}$ ifadesinin beklenen değeri sıfıra eşittir.

$\displaystyle E\left( {{Y_i}} \right) = {\beta _0} + {\beta _1}{X_{1i}}$ (3.3)

3.2 ve 3.3 no.lu denklemlerin her ikisi de aynı ilişkiyi temsil etmektedir.

4. Varsayım:

Hata terimlerinin ardışık değerleriyle herhangi bir sistematik ilişkisi yoktur; diğer bir ifadeyle kovaryansı sıfır olmalıdır.

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right) = 0$ ya da $\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}} \right) = 0$

İspat:

$\displaystyle i = 1,2,3, \ldots ,n$

$\displaystyle j = 1,2,3, \ldots ,n$

$\displaystyle i \ne j$

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right) = E\left( {\left[ {{\varepsilon _i} - E\left( {{\varepsilon _i}} \right)} \right]\left[ {{\varepsilon _j} - E\left( {{\varepsilon _j}} \right)} \right]} \right)$

Hata teriminin beklenen değeri sıfıra eşit olduğundan denklemde yerine yazılır.

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right) = E\left( {\left[ {{\varepsilon _i} - \underbrace {E\left( {{\varepsilon _i}} \right)}_0} \right]\left[ {{\varepsilon _j} - \underbrace {E\left( {{\varepsilon _j}} \right)}_0} \right]} \right)$

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right) = E\left( {{\varepsilon _i}{\varepsilon _j}} \right)$

i ve j değerleri birbirine eşit olmadığı için beklenen değer operatörü parantez içine dağıtılır.

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right) = E\left( {{\varepsilon _i}} \right)E\left( {{\varepsilon _j}} \right)$

Hata teriminin beklenen değeri sıfıra eşit olduğundan denklemde yerine yazılır.

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right) = \underbrace {E\left( {{\varepsilon _i}} \right)}_0\underbrace {E\left( {{\varepsilon _j}} \right)}_0$

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right) = 0$

Yukarıdaki süreç koşullu beklenen değer operatörü yerine, doğrudan beklenen değer operatörü ile belirtilmek istenirse, eşitliğin solunda yer alan $\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}|{X_{1i}},{X_{1j}}} \right)$ ifadesi yerine, doğrudan $\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}} \right)$ ifadesinin kullanılması yeterli olacaktır.

$\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}} \right) = E\left( {{\varepsilon _i}{\varepsilon _j}} \right) = 0$ (4.1)

Eğer hata terimlerinin ardışık değerleri birbirinden bağımsız değilse, diğer bir ifadeyle $\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}} \right) \ne 0$ ise “içsel bağıntı (otokorelasyon) sorununun” varlığına işaret eder.

Hata terimlerinin kovaryansının matris formunda ifade edilmesi 5. Varsayım konusunda ele alınacaktır.

5. Varsayım:

Hata teriminin varyansı sabit olmalıdır.

$\displaystyle Var\left( {{\varepsilon _i}|{X_{1i}}} \right) = \delta _\varepsilon ^2$ ya da $\displaystyle Var\left( {{\varepsilon _i}} \right) = \delta _\varepsilon ^2$

Not 5.1: X bir değişken olmak üzere, X değişkeninin varyansı, kendi beklenen değerinden farklarının karesinin beklenen değerine eşittir.

$\displaystyle Var\left( {{X_i}} \right) = E{\left( {{X_i} - E\left( {{X_i}} \right)} \right)^2}$

X değişkeninin varyansı, kendi ortalamasından farklarının karesinin (kitle için) gözlem sayısına (örneklem için n-1’e) bölümü olarak da tanımlanabilir.

$\displaystyle Var\left( {{X_i}} \right) = \frac{1}{n}\sum\limits_{i = 1}^n {{{\left( {{X_i} - \bar X} \right)}^2}}$

Hata teriminin varyansının sabit olması aşağıdaki gibi gösterilebilir.

$\displaystyle Var\left( {{\varepsilon _i}|{X_{1i}}} \right) = E{\left[ {{\varepsilon _i} - E\left( {{\varepsilon _i}|{X_{1i}}} \right)} \right]^2}$

$\displaystyle Var\left( {{\varepsilon _i}|{X_{1i}}} \right) = E{\left[ {{\varepsilon _i} - \underbrace {E\left( {{\varepsilon _i}|{X_{1i}}} \right)}_0} \right]^2}$

$\displaystyle Var\left( {{\varepsilon _i}|{X_{1i}}} \right) = E{\left[ {{\varepsilon _i}} \right]^2}$

$\displaystyle Var\left( {{\varepsilon _i}|{X_{1i}}} \right) = \delta _\varepsilon ^2$

Yukarıdaki süreç koşullu beklenen değer operatörü yerine, doğrudan beklenen değer operatörü ile aşağıdaki gibi ifade edilebilir.

$\displaystyle Var\left( {{\varepsilon _i}} \right) = E{\left[ {{\varepsilon _i} - E\left( {{\varepsilon _i}} \right)} \right]^2}$

$\displaystyle Var\left( {{\varepsilon _i}} \right) = E{\left[ {{\varepsilon _i} - \underbrace {E\left( {{\varepsilon _i}} \right)}_0} \right]^2}$

$\displaystyle Var\left( {{\varepsilon _i}} \right) = E{\left( {{\varepsilon _i}} \right)^2} = \delta _\varepsilon ^2$

$\displaystyle Var\left( {{\varepsilon _i}} \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$

$\displaystyle \delta _\varepsilon ^2$ ifadesi hata teriminin sabit olan varyansını temsil etmektedir. Hata teriminin varyansı $\displaystyle \delta _\varepsilon ^2$ yerine $\displaystyle \delta _i^2$ veya $\displaystyle \delta _t^2$ ile temsil edilirse, hata teriminin varyansının sabit olmadığı, değişen varyans sorunu olduğu anlamına gelir.

White-Noise (beyaz gürültü veya problemsiz hata) açıklanan değişken Y’nin varyansı ile hata teriminin varyansının birbirine eşit olmasını ifade eder. Söz konusu eşitlik koşullu beklenen değer operatörü yardımıyla aşağıda gösterilmiştir.

$\displaystyle Var\left( {{Y_i}|{X_{1i}}} \right) = Var\left( {{\varepsilon _i}|{X_{1i}}} \right)$

$\displaystyle Var\left( {{Y_i}|{X_{1i}}} \right) = E{\left[ {{Y_i} - E\left( {{Y_i}|{X_{1i}}} \right)} \right]^2}$

3.1 ve 3.2 no.lu denklemler yukarıdaki denklemde yerine yazılır.

$\displaystyle Var\left( {{Y_i}|{X_{1i}}} \right) = E{\left[ {\underbrace {{\beta _0} + {\beta _1}{X_{1i}} + {\varepsilon _i}}_{{Y_i}} - \underbrace {\left( {{\beta _0} + {\beta _1}{X_{1i}}} \right)}_{E\left( {{Y_i}|{X_{1i}}} \right)}} \right]^2}$

$\displaystyle Var\left( {{Y_i}|{X_{1i}}} \right) = E{\left[ {\cancel{{{\beta _0}}} + \cancel{{{\beta _1}{X_{1i}}}} + {\varepsilon _i} - \cancel{{{\beta _0}}} - \cancel{{{\beta _1}{X_{1i}}}}} \right]^2}$

$\displaystyle Var\left( {{Y_i}|{X_{1i}}} \right) = E{\left[ {{\varepsilon _i}} \right]^2}$

$\displaystyle E{\left[ {{\varepsilon _i}} \right]^2}$ ifadesi hata teriminin varyansına ve o da $\displaystyle \delta _\varepsilon ^2$ olduğundan denklemde yerine yazılır.

$\displaystyle Var\left( {{Y_i}|{X_{1i}}} \right) = \delta _\varepsilon ^2$

Açıklanan değişken Y’nin varyansı ile hata teriminin varyansının eşit olmasını temsil eden White-Noise (beyaz gürültü veya problemsiz hata), doğrudan beklenen değer operatörü kullanılarak aşağıda gösterilmiştir.

$\displaystyle Var\left( {{Y_i}} \right) = E{\left[ {{Y_i} - E\left( {{Y_i}} \right)} \right]^2}$

3.1 ve 3.3 no.lu denklemler yukarıdaki denklemde yerine yazılır.

$\displaystyle Var\left( {{Y_i}} \right) = E{\left[ {\underbrace {{\beta _0} + {\beta _1}{X_{1i}} + {\varepsilon _i}}_{{Y_i}} - \underbrace {\left( {{\beta _0} + {\beta _1}{X_{1i}}} \right)}_{E\left( {{Y_i}} \right)}} \right]^2}$

$\displaystyle Var\left( {{Y_i}} \right) = E{\left[ {\cancel{{{\beta _0}}} + \cancel{{{\beta _1}{X_{1i}}}} + {\varepsilon _i} - \cancel{{{\beta _0}}} - \cancel{{{\beta _1}{X_{1i}}}}} \right]^2}$

$\displaystyle Var\left( {{Y_i}} \right) = E{\left( {{\varepsilon _i}} \right)^2} = E\left( {\varepsilon _i^2} \right)$

$\displaystyle E\left( {\varepsilon _i^2} \right)$ ifadesi hata teriminin varyansına ve o da $\displaystyle \delta _\varepsilon ^2$ olduğundan denklemde yerine yazılır.

$\displaystyle Var\left( {{Y_i}} \right) = \delta _\varepsilon ^2$

$\displaystyle Y$ , $\displaystyle X$ , $\displaystyle \beta$ ve $\displaystyle \varepsilon$ ifadeleri birer matris olmak üzere, $\displaystyle \varepsilon$ matrisinin nx1 boyutlarında bir sütun vektörü olduğu varsayımında denklem sistemi ve hata teriminin varyansının matris formatında elde edilmesi aşağıda gösterilmiştir.

$\displaystyle \mathop {\left[ {\begin{array}{*{20}{c}} {{Y_1}} \\ {{Y_2}} \\ {{Y_3}} \\ {{Y_4}} \\ \vdots \\ {{Y_n}} \end{array}} \right]}\nolimits_{nx1} = \mathop {\left[ \begin{gathered} \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{11}}} \end{array}}&{{X_{21}}} \end{array}}&{{X_{31}}} \end{array}}& \ldots \end{array}}&{{X_{\left( {k - 1} \right)1}}} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{12}}} \end{array}}&{{X_{22}}}&{{X_{32}}}& \ldots &{{X_{\left( {k - 1} \right)2}}} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{13}}} \end{array}}&{{X_{23}}}&{{X_{33}}} \end{array}}& \ldots &{{X_{\left( {k - 1} \right)3}}} \end{array} \hfill \\ \vdots \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{1n}}} \end{array}}&{{X_{2n}}}&{{X_{3n}}} \end{array}}& \ldots &{{X_{\left( {k - 1} \right)n}}} \end{array} \hfill \\ \end{gathered} \right]}\nolimits_{nxk} \mathop {\left[ {\begin{array}{*{20}{c}} {{\beta _0}} \\ {{\beta _1}} \\ {{\beta _2}} \\ {{\beta _3}} \\ \vdots \\ {{\beta _{k - 1}}} \end{array}} \right]}\nolimits_{kx1} + \mathop {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]}\nolimits_{nx1}$

Not 5.2: Bir matrisin transpozunu (devriğini) almak, o matrisin satırlarının sütun, sütunlarının da satır biçiminde ifade edilmesi anlamına gelir.

A ve B birer matris olmak üzere, A ve B matrislerinde AB biçiminde çarpma işlemi yapmak için soldaki ifadenin (A’nın) sütun sayısı sağdaki ifadenin (B’nin) satır sayısına eşit olmalıdır. Yeni matrisin boyutu da birinci matrisin (A’nın) satır sayısı ile ikinci matrisin (B’nin) sütun sayısına eşit olacaktır.

$\displaystyle A = {\left[ {\begin{array}{*{20}{c}} {}&{} \\ {}&{} \end{array}} \right]_{pxm}}$ ve $\displaystyle B = {\left[ {\begin{array}{*{20}{c}} {}&{} \\ {}&{} \end{array}} \right]_{mxk}}$ olmak üzere, $\displaystyle AB = {\left[ {\begin{array}{*{20}{c}} {}&{} \\ {}&{} \end{array}} \right]_{pxk}}$ boyutlarında bir matris elde edilir.

$\displaystyle \varepsilon$ matrisinin nx1 boyutlarında bir sütun vektörü olduğu varsayımı altında, $\displaystyle \varepsilon$ matrisinin soldan kendi transpozu ile çarpılması sonucu, $\displaystyle \varepsilon '\varepsilon$ ifadesi 1×1 boyutlu bir skaler (yani c gibi sayısal bir) değeri olan hata terimlerinin kareleri toplamını verecektir.

$\displaystyle \varepsilon '\varepsilon = {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]^\prime }\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right] = {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}}&{{\varepsilon _2}}&{{\varepsilon _3}}&{{\varepsilon _4}}& \ldots &{{\varepsilon _n}} \end{array}} \right]_{1xn}}{\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]_{nx1}}$

$\displaystyle \varepsilon '\varepsilon = \varepsilon _1^2 + \varepsilon _2^2 + \varepsilon _3^2 + \varepsilon _4^2 + \ldots + \varepsilon _n^2 = \sum\limits_{i = 1}^n {\varepsilon _i^2} = \sum\limits_{i = 1}^n {{{\left( {\varepsilon {}_i} \right)}^2}}$

Yukarıdaki ifadeye beklenen değer operatörü ilave edilirse hata teriminin varyansı elde edilir.

$\displaystyle E\left( {\varepsilon '\varepsilon } \right) = E\left( {\sum\limits_{i = 1}^n {\varepsilon _i^2} } \right)$

$\displaystyle E\left( {\sum\limits_{i = 1}^n {\varepsilon _i^2} } \right)$ ifadesi beklenen değer operatörü ile toplam sembolü kullanılmadan da ifade edilebilir.

$\displaystyle E\left( {\varepsilon '\varepsilon } \right) = E\left( {\varepsilon _i^2} \right)$

$\displaystyle Var\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$

$\displaystyle \varepsilon$ matrisinin nx1 boyutlarında bir sütun vektörü olduğu varsayımı altında, $\displaystyle \varepsilon$ matrisinin sağdan kendi transpozu ile çarpılması sonucu, $\displaystyle \varepsilon \varepsilon '$ ifadesi nxn boyutlu bir kare matris olan varyans-kovaryans matrisini verecektir.

$\displaystyle \varepsilon \varepsilon ' = \left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]{\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]^\prime } = {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]_{nx1}}{\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}}&{{\varepsilon _2}}&{{\varepsilon _3}}&{{\varepsilon _4}}& \ldots &{{\varepsilon _n}} \end{array}} \right]_{1xn}}$

$\displaystyle \varepsilon \varepsilon ' = {\left[ {\begin{array}{*{20}{c}} {\varepsilon _1^2}&{{\varepsilon _1}{\varepsilon _2}}&{{\varepsilon _1}{\varepsilon _3}}& \ldots &{{\varepsilon _1}{\varepsilon _n}} \\ {{\varepsilon _2}{\varepsilon _1}}&{\varepsilon _2^2}&{{\varepsilon _2}{\varepsilon _3}}& \ldots &{{\varepsilon _2}{\varepsilon _n}} \\ {{\varepsilon _3}{\varepsilon _1}}&{{\varepsilon _3}{\varepsilon _2}}&{\varepsilon _3^2}& \ldots &{{\varepsilon _3}{\varepsilon _n}} \\ \vdots &{}&{}&{}& \vdots \\ {{\varepsilon _n}{\varepsilon _1}}&{{\varepsilon _n}{\varepsilon _2}}&{{\varepsilon _n}{\varepsilon _3}}& \ldots &{\varepsilon _n^2} \end{array}} \right]_{nxn}}$

Yukarıdaki matrisin içinde yer alan $\displaystyle \varepsilon _1^2$ , $\displaystyle \varepsilon _2^2$ , $\displaystyle \varepsilon _3^2$ , …, $\displaystyle \varepsilon _n^2$ ifadeleri matrisin asal köşegenini temsil eder. Matrise beklenen değer operatörü ilave edilerek matrisin içine dağıtılır.

$\displaystyle E\left( {\varepsilon \varepsilon '} \right) = {\left[ {\begin{array}{*{20}{c}} {E\left( {\varepsilon _1^2} \right)}&{E\left( {{\varepsilon _1}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _1}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _1}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _2}{\varepsilon _1}} \right)}&{E\left( {\varepsilon _2^2} \right)}&{E\left( {{\varepsilon _2}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _2}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _3}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _3}{\varepsilon _2}} \right)}&{E\left( {\varepsilon _3^2} \right)}& \ldots &{E\left( {{\varepsilon _3}{\varepsilon _n}} \right)} \\ \vdots &{}&{}&{}& \vdots \\ {E\left( {{\varepsilon _n}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _3}} \right)}& \ldots &{E\left( {\varepsilon _n^2} \right)} \end{array}} \right]_{nxn}}$

$\displaystyle Var\left( {{\varepsilon _i}} \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$ ve hata teriminin varyansı sabit olduğundan $\displaystyle Var\left( {{\varepsilon _i}} \right) = E\left( {\varepsilon _1^2} \right) = E\left( {\varepsilon _2^2} \right) = \ldots = E\left( {\varepsilon _n^2} \right) = \delta _\varepsilon ^2$ olur ve matrisin asal köşegeninde yerlerine yazılır.

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = {\left[ {\begin{array}{*{20}{c}} {\delta _\varepsilon ^2}&{E\left( {{\varepsilon _1}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _1}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _1}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _2}{\varepsilon _1}} \right)}&{\delta _\varepsilon ^2}&{E\left( {{\varepsilon _2}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _2}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _3}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _3}{\varepsilon _2}} \right)}&{\delta _\varepsilon ^2}& \ldots &{E\left( {{\varepsilon _3}{\varepsilon _n}} \right)} \\ \vdots &{}&{}&{}& \vdots \\ {E\left( {{\varepsilon _n}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _3}} \right)}& \ldots &{\delta _\varepsilon ^2} \end{array}} \right]_{nxn}}$

Yukarıda 4.1 no.lu denklemde $\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}} \right) = E\left( {{\varepsilon _i}{\varepsilon _j}} \right) = 0$ olduğundan, yukarıdaki matriste yer alan kovaryans ifadelerinin yerine sıfır yazılır.

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = {\left[ {\begin{array}{*{20}{c}} {\delta _\varepsilon ^2}&0&0& \ldots &0 \\ 0&{\delta _\varepsilon ^2}&0& \ldots &0 \\ 0&0&{\delta _\varepsilon ^2}& \ldots &0 \\ \vdots &{}&{}&{}& \vdots \\ 0&0&0& \ldots &{\delta _\varepsilon ^2} \end{array}} \right]_{nxn}}$

$\displaystyle \delta _\varepsilon ^2$ ifadeleri birer sabit olduğundan matrisin dışına alınır.

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = \delta _\varepsilon ^2{\left[ {\begin{array}{*{20}{c}} 1&0&0& \ldots &0 \\ 0&1&0& \ldots &0 \\ 0&0&1& \ldots &0 \\ \vdots &{}&{}&{}& \vdots \\ 0&0&0& \ldots &1 \end{array}} \right]_{nxn}}$

Yukarıda nxn boyutlu asal köşegeni 1, diğer elemanları 0 değerlerinden oluşan matris birim matrise eşittir ve birim matris de 1’e eşit bir skalerdir.

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = \delta _\varepsilon ^2{\underbrace {\left[ {\begin{array}{*{20}{c}} 1&0&0& \ldots &0 \\ 0&1&0& \ldots &0 \\ 0&0&1& \ldots &0 \\ \vdots &{}&{}&{}& \vdots \\ 0&0&0& \ldots &1 \end{array}} \right]}_{\rm I}_{nxn}}$

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = \delta _\varepsilon ^2{\rm I}$

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = \delta _\varepsilon ^2$

Yukarıda gösterildiği gibi $\displaystyle \varepsilon$ matrisinin nx1 boyutlarında bir sütun vektörü olduğu varsayımı altında, 1×1 boyutlu $\displaystyle E\left( {\varepsilon '\varepsilon } \right)$ matrisinin yanı sıra, nxn boyutlu varyans-kovaryans matrisini temsil eden $\displaystyle E\left( {\varepsilon \varepsilon '} \right)$ matrisinin de $\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}} \right) = E\left( {{\varepsilon _i}{\varepsilon _j}} \right) = 0$ varsayımı geçerli iken hata teriminin varyansını temsil eden skaler (tek bir sayısal) bir sonucu vardır.

$\displaystyle Var\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$

Yukarıda $\displaystyle \varepsilon$ matrisinin denklem sisteminde nx1 boyutlu bir sütun vektörü olarak yer aldığı varsayılmak suretiyle hata terimlerinin varyansı ve varyans-kovaryans matrisi elde edildi. $\displaystyle \varepsilon$ matrisinin denklem sisteminde 1xn boyutlu bir satır vektörü olarak yer alsaydı da yukarıda varılan sonuçlara yine varılabilirdi. Şöyle ki;

$\displaystyle Y$ , $\displaystyle X$ , $\displaystyle \beta$ ve $\displaystyle \varepsilon$ ifadeleri birer matris olmak üzere, $\displaystyle \varepsilon$ matrisinin nx1 boyutlarında bir satır vektörü olduğu varsayımında denklem sistemi ve hata teriminin varyansının matris formatında elde edilmesi aşağıda gösterilmiştir.

$\displaystyle \mathop {\left[ {\begin{array}{*{20}{c}} {{Y_1}} \\ {{Y_2}} \\ {{Y_3}} \\ {{Y_4}} \\ \vdots \\ {{Y_n}} \end{array}} \right]}\nolimits_{nx1} = \mathop {\left[ \begin{gathered} \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{11}}} \end{array}}&{{X_{21}}} \end{array}}&{{X_{31}}} \end{array}}& \ldots \end{array}}&{{X_{\left( {k - 1} \right)1}}} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{12}}} \end{array}}&{{X_{22}}}&{{X_{32}}}& \ldots &{{X_{\left( {k - 1} \right)2}}} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{13}}} \end{array}}&{{X_{23}}}&{{X_{33}}} \end{array}}& \ldots &{{X_{\left( {k - 1} \right)3}}} \end{array} \hfill \\ \vdots \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{1n}}} \end{array}}&{{X_{2n}}}&{{X_{3n}}} \end{array}}& \ldots &{{X_{\left( {k - 1} \right)n}}} \end{array} \hfill \\ \end{gathered} \right]}\nolimits_{nxk} \mathop {\left[ {\begin{array}{*{20}{c}} {{\beta _0}} \\ {{\beta _1}} \\ {{\beta _2}} \\ {{\beta _3}} \\ \vdots \\ {{\beta _{k - 1}}} \end{array}} \right]}\nolimits_{kx1} + \mathop {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}}&{{\varepsilon _2}}&{{\varepsilon _3}}&{{\varepsilon _4}}& \ldots &{{\varepsilon _n}} \end{array}} \right]}\nolimits_{nx1}$

$\displaystyle \varepsilon$ matrisinin 1xn boyutlarında bir satır vektörü olduğu varsayımı altında, $\displaystyle \varepsilon$ matrisinin sağdan kendi transpozu ile çarpılması sonucu, $\displaystyle \varepsilon \varepsilon '$ ifadesi 1×1 boyutlu bir skaler (yani c gibi sayısal bir) değeri olan hata terimlerinin kareleri toplamını verecektir.

$\displaystyle \varepsilon \varepsilon ' = \left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]{\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]^\prime } = {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}}&{{\varepsilon _2}}&{{\varepsilon _3}}&{{\varepsilon _4}}& \ldots &{{\varepsilon _n}} \end{array}} \right]_{1xn}}{\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]_{nx1}}$

$\displaystyle \varepsilon \varepsilon ' = \varepsilon _1^2 + \varepsilon _2^2 + \varepsilon _3^2 + \varepsilon _4^2 + \ldots + \varepsilon _n^2 = \sum\limits_{i = 1}^n {\varepsilon _i^2} = \sum\limits_{i = 1}^n {{{\left( {\varepsilon {}_i} \right)}^2}}$

Yukarıdaki ifadeye beklenen değer operatörü ilave edilirse hata teriminin varyansı elde edilir.

$\displaystyle E\left( {\varepsilon \varepsilon '} \right) = E\left( {\sum\limits_{i = 1}^n {\varepsilon _i^2} } \right)$

$\displaystyle E\left( {\sum\limits_{i = 1}^n {\varepsilon _i^2} } \right)$ ifadesi beklenen değer operatörü ile toplam sembolü kullanılmadan da ifade edilebilir.

$\displaystyle E\left( {\varepsilon \varepsilon '} \right) = E\left( {\varepsilon _i^2} \right)$

$\displaystyle Var\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$

$\displaystyle \varepsilon$ matrisinin 1xn boyutlarında bir satır vektörü olduğu varsayımı altında, $\displaystyle \varepsilon$ matrisinin soldan kendi transpozu ile çarpılması sonucu, $\displaystyle \varepsilon '\varepsilon$ ifadesi nxn boyutlu bir kare matris olan varyans-kovaryans matrisini verecektir.

$\displaystyle \varepsilon '\varepsilon = {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]^\prime }\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right] = {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]_{nx1}}{\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}}&{{\varepsilon _2}}&{{\varepsilon _3}}&{{\varepsilon _4}}& \ldots &{{\varepsilon _n}} \end{array}} \right]_{1xn}}$

$\displaystyle \varepsilon '\varepsilon = {\left[ {\begin{array}{*{20}{c}} {\varepsilon _1^2}&{{\varepsilon _1}{\varepsilon _2}}&{{\varepsilon _1}{\varepsilon _3}}& \ldots &{{\varepsilon _1}{\varepsilon _n}} \\ {{\varepsilon _2}{\varepsilon _1}}&{\varepsilon _2^2}&{{\varepsilon _2}{\varepsilon _3}}& \ldots &{{\varepsilon _2}{\varepsilon _n}} \\ {{\varepsilon _3}{\varepsilon _1}}&{{\varepsilon _3}{\varepsilon _2}}&{\varepsilon _3^2}& \ldots &{{\varepsilon _3}{\varepsilon _n}} \\ \vdots &{}&{}&{}& \vdots \\ {{\varepsilon _n}{\varepsilon _1}}&{{\varepsilon _n}{\varepsilon _2}}&{{\varepsilon _n}{\varepsilon _3}}& \ldots &{\varepsilon _n^2} \end{array}} \right]_{nxn}}$

$\displaystyle E\left( {\varepsilon '\varepsilon } \right) = {\left[ {\begin{array}{*{20}{c}} {E\left( {\varepsilon _1^2} \right)}&{E\left( {{\varepsilon _1}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _1}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _1}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _2}{\varepsilon _1}} \right)}&{E\left( {\varepsilon _2^2} \right)}&{E\left( {{\varepsilon _2}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _2}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _3}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _3}{\varepsilon _2}} \right)}&{E\left( {\varepsilon _3^2} \right)}& \ldots &{E\left( {{\varepsilon _3}{\varepsilon _n}} \right)} \\ \vdots &{}&{}&{}& \vdots \\ {E\left( {{\varepsilon _n}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _3}} \right)}& \ldots &{E\left( {\varepsilon _n^2} \right)} \end{array}} \right]_{nxn}}$

$\displaystyle E\left( {\varepsilon '\varepsilon } \right) = {\left[ {\begin{array}{*{20}{c}} {\delta _\varepsilon ^2}&{E\left( {{\varepsilon _1}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _1}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _1}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _2}{\varepsilon _1}} \right)}&{\delta _\varepsilon ^2}&{E\left( {{\varepsilon _2}{\varepsilon _3}} \right)}& \ldots &{E\left( {{\varepsilon _2}{\varepsilon _n}} \right)} \\ {E\left( {{\varepsilon _3}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _3}{\varepsilon _2}} \right)}&{\delta _\varepsilon ^2}& \ldots &{E\left( {{\varepsilon _3}{\varepsilon _n}} \right)} \\ \vdots &{}&{}&{}& \vdots \\ {E\left( {{\varepsilon _n}{\varepsilon _1}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _2}} \right)}&{E\left( {{\varepsilon _n}{\varepsilon _3}} \right)}& \ldots &{\delta _\varepsilon ^2} \end{array}} \right]_{nxn}}$

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = {\left[ {\begin{array}{*{20}{c}} {\delta _\varepsilon ^2}&0&0& \ldots &0 \\ 0&{\delta _\varepsilon ^2}&0& \ldots &0 \\ 0&0&{\delta _\varepsilon ^2}& \ldots &0 \\ \vdots &{}&{}&{}& \vdots \\ 0&0&0& \ldots &{\delta _\varepsilon ^2} \end{array}} \right]_{nxn}}$

$\displaystyle \delta _\varepsilon ^2$ ifadeleri birer sabit olduğundan matrisin dışına alınır.

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = \delta _\varepsilon ^2{\left[ {\begin{array}{*{20}{c}} 1&0&0& \ldots &0 \\ 0&1&0& \ldots &0 \\ 0&0&1& \ldots &0 \\ \vdots &{}&{}&{}& \vdots \\ 0&0&0& \ldots &1 \end{array}} \right]_{nxn}}$

Yukarıda nxn boyutlu asal köşegeni 1, diğer elemanları 0 değerlerinden oluşan matris birim matrise eşittir ve birim matris de 1’e eşit bir skalerdir.

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = \delta _\varepsilon ^2{\underbrace {\left[ {\begin{array}{*{20}{c}} 1&0&0& \ldots &0 \\ 0&1&0& \ldots &0 \\ 0&0&1& \ldots &0 \\ \vdots &{}&{}&{}& \vdots \\ 0&0&0& \ldots &1 \end{array}} \right]}_{\rm I}_{nxn}}$

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = \delta _\varepsilon ^2{\rm I}$

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = \delta _\varepsilon ^2$

Yukarıda gösterildiği gibi $\displaystyle \varepsilon$ matrisinin 1xn boyutlarında bir satır vektörü olduğu varsayımı altında, 1×1 boyutlu $\displaystyle E\left( {\varepsilon \varepsilon '} \right)$ matrisinin yanı sıra, nxn boyutlu varyans-kovaryans matrisini temsil eden $\displaystyle E\left( {\varepsilon '\varepsilon } \right)$ matrisinin de $\displaystyle Cov\left( {{\varepsilon _i},{\varepsilon _j}} \right) = E\left( {{\varepsilon _i}{\varepsilon _j}} \right) = 0$ varsayımı geçerli iken hata teriminin varyansını temsil eden skaler (tek bir sayısal) bir sonucu vardır.

$\displaystyle Var\left( \varepsilon \right) = E\left( {\varepsilon \varepsilon '} \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$

$\displaystyle Var - Cov\left( \varepsilon \right) = E\left( {\varepsilon '\varepsilon } \right) = E\left( {\varepsilon _i^2} \right) = \delta _\varepsilon ^2$

Özetle $\displaystyle \varepsilon$ matrisi, denklem sisteminde sütun veya satır vektörü olarak yer alabildiğinden dolayı, $\displaystyle E\left( {\varepsilon '\varepsilon } \right) = E\left( {\varepsilon \varepsilon '} \right)$ matrislerinin sonucu 1×1 boyutlu bir skaler de olsa, nxn boyutlu bir varyans-kovaryans matrisi de olsa, her ikisinin sonucu da $\displaystyle \delta _\varepsilon ^2$ ifadesine eşit birer skaler olacaktır.

Açıklanan değişken Y’nin varyansı ile hata teriminin varyansının eşit olmasını temsil eden White-Noise (beyaz gürültü veya problemsiz hata), matris cebiri kullanılarak aşağıda gösterilmiştir.

$\displaystyle Y$ , $\displaystyle X$ , $\displaystyle \beta$ ve $\displaystyle \varepsilon$ ifadeleri birer matris olmak üzere,

Yukarıdaki denklem sistemi aşağıdaki gibi daha sade belirtilebilir.

$\displaystyle Y = X\beta + \varepsilon$

Yukarıdaki denklem sistemine beklenen değer operatörü ilave edilir

$\displaystyle E\left( Y \right) = E\left( {X\beta } \right) + E\left( \varepsilon \right)$

1.3 no.lu nota göre $\displaystyle \beta$ ve $\displaystyle X$ matrislerinin beklenen değerleri kendilerine, $\displaystyle \varepsilon$ matrisinin beklenen değeri ise sıfıra eşittir.

$\displaystyle E\left( Y \right) = \underbrace {E\left( {X\beta } \right)}_{X\beta } + \underbrace {E\left( \varepsilon \right)}_0$

$\displaystyle E\left( Y \right) = X\beta$ (5.1)

Yukarıdaki 5.1 no.lu denklem sistemi, 3.2 ve 3.3 no.lu denklemlerde elde edilen aynı sonucu, açıklayıcı değişkenler belirli bir değer aldığında Y değişkenin beklenen değerini, alacağı ortalama değeri matris cinsinden ifade eder.

Y’nin varyansı, 5.2 no.lu not ile birlikte düşünülürse, matris formatında Y’nin beklenen değerinden farkının karesi, soldan kendi transpozu ile çarpılmak suretiyle elde edilir.

$\displaystyle Var\left( Y \right) = E\left( {{{\left[ {Y - E\left( Y \right)} \right]}^\prime }\left[ {Y - E\left( Y \right)} \right]} \right)$

$\displaystyle Y = X\beta + \varepsilon$ olduğundan denklemde yerine yazılır.

$\displaystyle Var\left( Y \right) = E\left( {{{\left[ {\left( {X\beta + \varepsilon } \right) - E\left( Y \right)} \right]}^\prime }\left[ {\left( {X\beta + \varepsilon } \right) - E\left( Y \right)} \right]} \right)$

$\displaystyle E\left( Y \right) = X\beta$ olduğundan denklemde yerine yazılır.

$\displaystyle Var\left( Y \right) = E\left( {{{\left[ {\left( {X\beta + \varepsilon } \right) - X\beta } \right]}^\prime }\left[ {\left( {X\beta + \varepsilon } \right) - X\beta } \right]} \right)$

$\displaystyle Var\left( Y \right) = E\left( {{{\left[ {\cancel{{X\beta }} + \varepsilon - \cancel{{X\beta }}} \right]}^\prime }\left[ {\cancel{{X\beta }} + \varepsilon - \cancel{{X\beta }}} \right]} \right)$

$\displaystyle Var\left( Y \right) = E\left( {{{\left[ \varepsilon \right]}^\prime }\left[ \varepsilon \right]} \right)$

$\displaystyle Var\left( Y \right) = E\left( {\varepsilon '\varepsilon } \right)$

$\displaystyle E\left( {\varepsilon '\varepsilon } \right) = \delta _\varepsilon ^2$ olduğundan yerine yazılır.

$\displaystyle Var\left( Y \right) = \delta _\varepsilon ^2$

6. Varsayım:

Hata terimlerinin açıklayıcı değişkenlerle herhangi bir sistematik ilişkisi yoktur; diğer bir ifadeyle kovaryansı sıfır olmalıdır.

$\displaystyle E\left( {{\varepsilon _i}|{X_{1i}}} \right) = 0$ varsayımı gereği $\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = 0$ olur.

İspat:

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = E\left( {\left[ {{\varepsilon _i} - E\left( {{\varepsilon _i}} \right)} \right]\left[ {{X_{1i}} - E\left( {{X_{1i}}} \right)} \right]} \right)$

Hata teriminin beklenen değeri sıfıra eşittir.

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = E\left( {\left[ {{\varepsilon _i} - \underbrace {E\left( {{\varepsilon _i}} \right)}_0} \right]\left[ {{X_{1i}} - E\left( {{X_{1i}}} \right)} \right]} \right)$

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = E\left( {\left[ {{\varepsilon _i}} \right]\left[ {{X_{1i}} - E\left( {{X_{1i}}} \right)} \right]} \right)$

Hata terimi parantezin içine dağıtılır.

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = E\left( {\left[ {{\varepsilon _i}{X_{1i}} - {\varepsilon _i}E\left( {{X_{1i}}} \right)} \right]} \right)$

Beklenen değer operatörü parantezin içine dağıtılır.

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = E\left( {{\varepsilon _i}} \right)E\left( {{X_{1i}}} \right) - E\left( {{\varepsilon _i}} \right)E\left( {E\left( {{X_{1i}}} \right)} \right)$

Bir değişkenin beklenen değeri bir sabite ve bir sabitin de beklenen değeri kendisine eşit olduğundan, bir değişkenin beklenen değerinin beklenen değeri yine o değişkenin beklenen değerine eşittir.

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = E\left( {{\varepsilon _i}} \right)E\left( {{X_{1i}}} \right) - E\left( {{\varepsilon _i}} \right)\underbrace {E\left( {E\left( {{X_{1i}}} \right)} \right)}_{E\left( {{X_{1i}}} \right)}$

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = E\left( {{\varepsilon _i}} \right)E\left( {{X_{1i}}} \right) - E\left( {{\varepsilon _i}} \right)E\left( {{X_{1i}}} \right)$

Hata teriminin beklenen değeri sıfıra eşittir.

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = \underbrace {E\left( {{\varepsilon _i}} \right)}_0E\left( {{X_{1i}}} \right) - \underbrace {E\left( {{\varepsilon _i}} \right)}_0E\left( {{X_{1i}}} \right)$

$\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) = 0$

$\displaystyle E\left( {{\varepsilon _i}|{X_{1i}}} \right) \ne 0$ iken $\displaystyle Cov\left( {{\varepsilon _i},{X_{1i}}} \right) \ne 0$ olur ve $\displaystyle {X_{1i}}$ , $\displaystyle {X_{2i}}$ gibi açıklayıcı değişkenlerin gözlem değerlerinin hata terimlerinden bağımsız bir şekilde belirlenmediği anlamına gelir. Bu sorunun sırasıyla olası 3 nedeni olabilir.

Eşanlılık sorunu,
Eşanlılık sorunu yoksa, ölçme hatası,
Eşanlılık ve ölçme hatası yoksa, modelin fonksiyonel formunun yanlış seçilmesi.

7. Varsayım:

n gözlem sayısını ve k ise parametre sayısını temsil etmek üzere $\displaystyle n \geqslant k$ olmalıdır. Aksi halde katsayı tahmin edicileri elde edilemez. Söz gelimi 3 bilinmeyenli (parametreye sahip) bir denklem sisteminin bilinmeyenler için çözülebilmesi için en az 3 farklı denklemin bulunması gerekir.

$\displaystyle 15 = x + y + z$

$\displaystyle 19 = 2x + y + z$

$\displaystyle 20 = x + 2y + z$

Temel matematik bilgisi yardımıyla x=4, y=5 ve z=6 olur. Eğer üç bilinmeyenli iki farklı denklem verilirse x, y ve z bulunamaz.

Konu matris cebiri bakımından ele alınacak olursa, n gözlem sayısı X matrisinin rankından-mertebesinden (sütun sayısından) büyük veya eşit olmalıdır, $\displaystyle n \geqslant r\left( X \right)$ . Yukarıdaki x, y, z bilinmeyenlerine sahip denklem sistemi aşağıdaki şekilde matris formuna dönüştürülebilir.

$\displaystyle {\left[ {\begin{array}{*{20}{c}} {15} \\ {19} \\ {20} \end{array}} \right]_{3x1}} = {\left[ {\begin{array}{*{20}{c}} 1&1&1 \\ 2&1&1 \\ 1&2&1 \end{array}} \right]_{3x3}}{\left[ {\begin{array}{*{20}{c}} x \\ y \\ z \end{array}} \right]_{3x1}}$

Yukarıdaki denklem sisteminde eşitliğin sağında bulunan 3×3 boyutlu kare matrisin rankı, sütun sayısına eşit olup 3’tür. Gözlem sayısı ise eşitliğin solundaki veya sağındaki 3×1 boyutlu sütun vektörünün veya 3×3 boyutlu kare matrisinin satır sayısını temsil eden 3’’tür.

Yukarıdaki çerçevede konunun parametre tahmin edicileri bakımından ele alınması amacıyla, n gözlem sayısını, i gözlem sırasını ve k parametre sayısını temsil etmek üzere, kullanılacak denklem sayısı ve parametre sayısı aşağıda gibi olacaktır.

$\displaystyle {Y_i} = {\beta _0} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + {\beta _3}{X_{3i}}. + ... + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

$\displaystyle {Y_1} = {\beta _0} + {\beta _1}{X_{11}} + {\beta _2}{X_{21}} + {\beta _3}{X_{31}}. + ... + {\beta _{k - 1}}{X_{\left( {k - 1} \right)1}} + {\varepsilon _1}$

$\displaystyle {Y_2} = {\beta _0} + {\beta _1}{X_{12}} + {\beta _2}{X_{22}} + {\beta _3}{X_{32}}. + ... + {\beta _{k - 1}}{X_{\left( {k - 1} \right)2}} + {\varepsilon _2}$

$\displaystyle {Y_3} = {\beta _0} + {\beta _1}{X_{13}} + {\beta _2}{X_{23}} + {\beta _3}{X_{33}}. + ... + {\beta _{k - 1}}{X_{\left( {k - 1} \right)3}} + {\varepsilon _3}$

$\displaystyle \vdots$

$\displaystyle {Y_n} = {\beta _0} + {\beta _1}{X_{1n}} + {\beta _2}{X_{2n}} + {\beta _3}{X_{3n}}. + ... + {\beta _{k - 1}}{X_{\left( {k - 1} \right)n}} + {\varepsilon _n}$

Yukarıdaki denklem sistemi aşağıdaki şekilde matris formunda ifade edilir.

Yukarıdaki X matrisinin rankı, sütun sayısına eşit olup k ifadesine eşittir. Gözlem sayısı ise X matrisinin satır sayısını temsil eden n ifadesine eşittir. Bu bakımdan $\displaystyle n \geqslant r\left( X \right)$ koşulu, $\displaystyle r\left( X \right) = k$ olduğu için $\displaystyle n \geqslant k$ , yani gözlem sayısı n parametre sayısı k’den büyük veya eşit olması şeklinde de ifade edilebilir.

Yukarıdaki $\displaystyle \beta$ sütun vektörünün son elemanının $\displaystyle {\beta _{k - 1}}$ olması, $\displaystyle \beta$ sütun vektörünün satır sayısının k-1 olduğu anlamına gelmez. Çünkü dikkat edilirse $\displaystyle \beta$ sütun vektörünün ilk elemanı $\displaystyle {\beta _1}$ ile değil, sabit terimi temsil eden $\displaystyle {\beta _0}$ ile başladığından $\displaystyle \beta$ sütun vektörünün satır sayısı k olmaktadır.

Yukarıdaki denklem sisteminin $\displaystyle \beta$ sütun vektörü (yani her bir $\displaystyle \beta$ parametresi) için çözülebilmesi amacıyla en az k tane gözlemin olması gerekir. O halde;

$\displaystyle n \geqslant r\left( X \right)$ veya $\displaystyle r\left( X \right) = k$ olduğu için $\displaystyle n \geqslant k$ olmalıdır.

Diğer taraftan $\displaystyle \beta$ katsayıları için istatistik/hipotez testleri yapabilmek için değerleri 1’den başlayan n-k gibi serbestlik derecelerine ihtiyaç olacaktır. $\displaystyle n < k$ iken serbestlik derecesi $\displaystyle n - k < 0$ olacağı için istatistiki testlerin yapılabilmesi mümkün olamayacaktır.

$\displaystyle k < n$ olmak koşuluyla, hata terimlerinin normal dağılımına ilişkin 10. Varsayım da göz önüne alınarak literatürde tercih edilen gözlem sayısı en az 30’dur, $\displaystyle n \geqslant 30$ .

8. Varsayım:

Açıklayıcı değişkenlerin değerleri birbirinin aynı olmamalıdır. Diğer bir ifadeyle $\displaystyle {X_{1i}}$ değişkeninin i. sıradaki değerleri birbirinin aynı olmamalıdır.

$\displaystyle {X_{1i}} \ne {\bar X_1}$

$\displaystyle {X_{1i}} = {\bar X_1}$ iken $\displaystyle {\beta _1}$ parametre tahmin edicisi tanımlı değildir.

$\displaystyle {\beta _1} = \frac{{\sum\limits_{i = 1}^n {\left( {\left( {{Y_i} - \bar Y} \right)\left( {{X_{1i}} - {{\bar X}_1}} \right)} \right)} }}{{\sum\limits_{i = 1}^n {\left( {{{\left( {{X_{1i}} - {{\bar X}_1}} \right)}^2}} \right)} }}$

$\displaystyle {X_{1i}} = {\bar X_1}$ iken yukarıdaki $\displaystyle {\beta _1}$ parametre tahmin edicisinin paydasında bulunan $\displaystyle \sum\limits_{i = 1}^n {\left( {{{\left( {{X_{1i}} - {{\bar X}_1}} \right)}^2}} \right)}$ ifadesi sıfır olacağından $\displaystyle {\beta _1}$ parametre tahmin edicisini tanımsız yapacaktır.

$\displaystyle {\beta _1} = \frac{{\sum\limits_{i = 1}^n {\left( {\left( {{Y_i} - \bar Y} \right)\left( {{X_{1i}} - {{\bar X}_1}} \right)} \right)} }}{0}$

$\displaystyle {\beta _1} =$ Tanımsız

Konu matris cebiri bakımından ele alınacak olursa, $\displaystyle n \geqslant k$ koşulu ile birlikte, X matrisinin rankı-mertebesi (sütun sayısı) modelde bulunan parametre sayısı olan k’ye eşit olmalıdır, $\displaystyle r\left( X \right) = k$ . Aksi durumda X matrisinin sütun sayısı ile $\displaystyle \beta$ sütun vektörünün satır sayısı farklı olacağı için X matrisi ile $\displaystyle \beta$ sütun vektörü arasında çarpma işlemi yapılamaz.

$\displaystyle \mathop {\left[ {\begin{array}{*{20}{c}} {{Y_1}} \\ {{Y_2}} \\ {{Y_3}} \\ {{Y_4}} \\ \vdots \\ {{Y_n}} \end{array}} \right]}\nolimits_{nx1} = \mathop {\left[ \begin{gathered} \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{11}}} \end{array}}&3 \end{array}}&{{X_{31}}} \end{array}}& \ldots \end{array}}&{{X_{\left( {k - 1} \right)1}}} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{12}}} \end{array}}&3&{{X_{32}}}& \ldots &{{X_{\left( {k - 1} \right)2}}} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{13}}} \end{array}}&3&{{X_{33}}} \end{array}}& \ldots &{{X_{\left( {k - 1} \right)3}}} \end{array} \hfill \\ \vdots \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{{X_{1n}}} \end{array}}&3&{{X_{3n}}} \end{array}}& \ldots &{{X_{\left( {k - 1} \right)n}}} \end{array} \hfill \\ \end{gathered} \right]}\nolimits_{nxk} \mathop {\left[ {\begin{array}{*{20}{c}} {{\beta _0}} \\ {{\beta _1}} \\ {{\beta _2}} \\ {{\beta _3}} \\ \vdots \\ {{\beta _{k - 1}}} \end{array}} \right]}\nolimits_{kx1} + \mathop {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]}\nolimits_{nx1}$

Yukarıdaki matrisinin 3. sütununda yer alan 3 sabiti, X matrisinin rankının k’dan küçük olmasına yol açacaktır, $\displaystyle r\left( X \right) \ne k$ . Çünkü X matrisi içindeki sütun vektörleri birbirinden bağımsız değildir, diğer bir ifadeyle aynı bilgiyi içeren birden fazla sütun vektörü vardır. Bu durum X matrisinin determinantının sıfır olmasına sebep olacaktır. Bu yüzden parametre tahmin edicisi tanımsız olacağından parametre tahmin edicisi elde edilemez. Konuyla ilgili olarak benzer bir ispat 9. Varsayım konusunda yapılmıştır.

9. Varsayım:

Açıklayıcı değişkenler arasında tam çoklu doğrusallık (tam çoklu doğrusal bağlantı) sorunu olmamalıdır. Örneğin ile $\displaystyle {X_{2i}}$ arasında $\displaystyle {X_{1i}} = \alpha {X_{2i}}$ gibi birebir (deterministik) bir ilişki olmamalıdır. Böyle bir durumda parametre tahmin edicileri tanımlı değildir.

$\displaystyle {Y_i} = {\beta _0}{X_{0i}} + {\beta _1}{X_{1i}} + {\beta _2}{X_{2i}} + {\beta _3}{X_{3i}}. + ... + {\beta _{k - 1}}{X_{\left( {k - 1} \right)i}} + {\varepsilon _i}$

$\displaystyle {X_0}$ , $\displaystyle {\beta _0}$ sabit teriminin temsili değişkeni olup değeri 1’e eşittir. Aşağıdaki matrisin ilk sütununda bulunan ve değeri 1 olan $\displaystyle {X_0}$ ifadeleridir.

$\displaystyle \mathop {\left[ {\begin{array}{*{20}{c}} {{Y_1}} \\ {{Y_2}} \\ {{Y_3}} \\ {{Y_4}} \\ \vdots \\ {{Y_n}} \end{array}} \right]}\nolimits_{nx1} = \mathop {\left[ \begin{gathered} \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{10} \end{array}}&5 \end{array}}&{15} \end{array}}& \ldots \end{array}}&{20} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{20} \end{array}}&7&{27}& \ldots &{40} \end{array} \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{30} \end{array}}&9&{39} \end{array}}& \ldots &{60} \end{array} \hfill \\ \vdots \hfill \\ \begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} {\begin{array}{*{20}{c}} 1&{70} \end{array}}&{21}&{91} \end{array}}& \ldots &{140} \end{array} \hfill \\ \end{gathered} \right]}\nolimits_{nxk} \mathop {\left[ {\begin{array}{*{20}{c}} {{\beta _0}} \\ {{\beta _1}} \\ {{\beta _2}} \\ {{\beta _3}} \\ \vdots \\ {{\beta _{k - 1}}} \end{array}} \right]}\nolimits_{kx1} + \mathop {\left[ {\begin{array}{*{20}{c}} {{\varepsilon _1}} \\ {{\varepsilon _2}} \\ {{\varepsilon _3}} \\ {{\varepsilon _4}} \\ \vdots \\ {{\varepsilon _n}} \end{array}} \right]}\nolimits_{nx1}$

Yukarıdaki X matrisinde $\displaystyle {X_3} = {X_1} + {X_2}$ ve $\displaystyle {X_{k - 1}} = 2{X_1}$ olduğundan X matrisinin rankı k değildir, $\displaystyle r\left( X \right) \ne k$ . Çünkü X matrisi içindeki sütun vektörleri birbirinden bağımsız değildir, diğer bir ifadeyle aynı bilgiyi içeren birden fazla sütun vektörü vardır. Bu durumda “tam çoklu doğrusal bağlantı” sorunu söz konusu olur ve $\displaystyle r\left( X \right) < k$ olduğundan dolayı X matrisinin determinantı sıfıra eşit olacaktır, .

X matrisinin determinantının sıfır olması ise parametre ta $\displaystyle \left| X \right| = 0$ hmin edicisini tanımsız yapacağından parametre tahmin edicisi elde edilemez.

$\displaystyle \beta = {\left( {X'X} \right)^{ - 1}}X'Y$

Yukarıdaki parametre tahmin edicisi içinde bulunan $\displaystyle {\left( {X'X} \right)^{ - 1}}$ ifadesinin eşiti aşağıda yer almaktadır.

$\displaystyle {\left( {X'X} \right)^{ - 1}} = \frac{1}{{\left| {X'X} \right|}}.Adj\left( {X'X} \right)$

$\displaystyle {\left( {X'X} \right)^{ - 1}} = \frac{1}{{\left| {X'} \right|\left| X \right|}}.Adj\left( {X'X} \right)$

$\displaystyle \left| X \right| = 0$ iken yukarıdaki denklemde yerine yazılır.

$\displaystyle {\left( {X'X} \right)^{ - 1}} = \frac{1}{{\left| {X'} \right|0}}.Adj\left( {X'X} \right)$

$\displaystyle {\left( {X'X} \right)^{ - 1}} = \frac{1}{0}.Adj\left( {X'X} \right) =$ Tanımsız

Yukarıdaki ifade parametre tahmin edicisinde yerine yazılır.

$\displaystyle \beta = \left( {\frac{1}{0}.Adj\left( {X'X} \right)} \right)X'Y =$ Tanımsız

10. Varsayım:

Hata terimleri normal dağılıma sahip olmalıdır.

$\displaystyle \varepsilon \sim N\left( {0,\delta _\varepsilon ^2} \right)$

Hata teriminin sıfır ortalama ve sabit bir varyans ile normal dağılıma sahip olması gerektiğini ifade eder. Bu varsayım özellikle hipotez testleri için önemlidir. Eğer gözlem sayısı (n) büyükse zorunlu bir varsayım olarak kabul edilmemekle birlikte, gözlem sayısı (n) küçükse zorunlu bir varsayım olarak kabul edilir.

İshak Kutlu, Ekonometri Notları

Genel Doğrusal Modelin Varsayımları

1. Varsayım:

2. Varsayım:

3. Varsayım:

4. Varsayım:

5. Varsayım:

6. Varsayım:

7. Varsayım:

8. Varsayım:

9. Varsayım:

10. Varsayım:

Yorum Yap

Yanıtı İptal Et

İshak Kutlu