auto.pdf

Paweł Strawi«ski

Notatki do ¢wicze« z ekonometrii

2.2 Autokorelacja

2.2.1 Wprowadzenie

Przy wyprowadzaniu estymatorów Klasycznego Modelu Regresji Liniowej

(KMRL) zakładali±my, »e s¡ spełnione zało»enia Gaussa-Markowa, tzn. skład-

niki losowe s¡ homoscedastyczne i nieskorelowane. Jednak te zało»enia dla

du»ej liczby modeli nie s¡ spełnione. W wielu zastosowaniach reszty mode-

lu s¡ skorelowane. Szczególnie dotyczy to modeli szacowanych na podsta-

wie danych o wymiarze czasowym (dane pochodz¡ce z szeregów czasowych).

W ekonometrii skorelowanie zmiennej z t¡ sam¡ zmienn¡ z innego okresu

(obiektu) nazywamy autokorelacj¡. Gdy warto±¢ ka»da z warto±ci zmiennej

jest skorelowana z poprzedzaj¡c¡ warto±ci¡ mówimy o wyst¦powaniu auto-

korelacji pierwszego rz¦du. Gdy autokorelacji podlegaj¡ obserwacje oddalone

o s okresów mówimy o wyst¦powaniu autokorelacji rz¦du s .

W przypadku wyst¦powania zjawiska autokorelacji składnika losowego

macierz wariancji-kowariancji nie jest macierz¡ diagonaln¡. Dzieje si¦ tak,

poniewa» składniki losowe dla obserwacji pochodz¡cych z ró»nych okresów

nie s¡ niezale»ne, one s¡ skorelowane.

Podobnie jak w przypadku autokorelacji analiz¦ zaczynamy od Klasycz-

nego Modelu Regresji Liniowej. Posta¢ funkcyjn¡ modelu mo»emy zapisa¢

jako:

y = X¯ + " (1)

Ale uchylamy zało»enie o nieskorelowaniu składnika losowego, czyli przyjmu-

jemy, »e E ( " t ;" s ) 6 =0 dlat6 = s . Macierz wariancji-kowariancji dla modelu

z autokorelacj¡ ma tak¡ sam¡ diagonal¦ jak macierz wariancji-kowariancji w

KMRL. Ró»nica polega na tym, »e poza diagonal¡ s¡ elementy ró»ne od ze-

ra, nale»¡ce do przedziału[ ¡ 1 ; 1]obrazuj¡ce warto±¢ współczynnika korelacji

mi¦dzy składnikami losowymi pochodz¡cymi od ró»nych obserwacji.

Autokorelacja, czyli skorelowanie składników losowych, jest naruszeniem

zało»e« modelu które odnosi si¦ wył¡cznie do danych o charakterze szere-

gów czasowych. Macierz wariancji-kowariancji, podobnie jak dla modelu z

heteroscedastyczno±ci¡ oznaczamy przez:

var ( " )= ¾ 2 (2)

gdziejest macierz¡ której elementy znajduj¡ce si¦ na diagonali s¡ równe 1.

Ale poza diagonal¡ znajduj¡ si¦ elementy ró»ne od zera, b¦d¡ce współczyn-

nikami korelacji składników losowych z odpowiednich okresów.

Traktuj¡c model regresji liniowej bardzo ogólnie mo»na powiedzie¢, »e

składnik losowy " t zawiera wpływ zmiennych nieuwzgl¦dnionych w równaniu

regresji na zmienn¡ obja±nian¡. Wobec tego brak uwzgl¦dnienia zmiennej

Paweł Strawi«ski

Notatki do ¢wicze« z ekonometrii

istotnej lub bł¦dna specyﬁkacja formy funkcyjnej modelu jest cz¦st¡ przy-

czyn¡ wyst¦powania dodatniej autokorelacji w modelu. Je»eli warto±ci takiej

zmiennej s¡ obserwowane i mog¡ zosta¢ wł¡czone do modelu, mo»emy in-

terpretowa¢ wyst¦powanie autokorelacji jako wskazanie bł¦dnej specyﬁkacji

modelu.

Biały szum Je»eli spełnione s¡ zało»enia KMRL, w szczególno±ci zało»enie

o normalno±ci rozkładu reszt, reszty z modelu powinny by¢ niezale»ne od

siebie i pochodzi¢ z rozkładu o ±redniej 0 i stałej wariancji równej ¾ 2 .

"» iid (0 ;¾ 2 )

Je»eli reszt s¡ niezale»ne od siebie, to zachowuj¡ si¦ w sposób czysto losowy.

Znaj¡ warto±¢ reszty z okresu t nie jeste±my w stanie nic powiedzie¢ o war-

to±ci reszty w okresie t +1. Co wi¦cej, nawet nie mo»na okre±li¢ czy b¦dzie

dodatnia, czy te» ujemna. W całkowicie odmienny sposób zachowuj¡ si¦ resz-

Rysunek 1: Biały szum

100

ty, które s¡ skorelowane. Dodatnia korelacja składnika losowego sprawia, »e

je»eli bł¡d w okresie t jest dodatni to b¦dzie wi¦ksze prawdopodobie«stwo,

»e w okresie t +1b¦dzie dodatni, ni» ujemny. Natomiast je»eli w okresie t

bł¡d był ujemny, to b¦dzie wy»sze prawdopodobie«stwo otrzymania w okre-

sie t +1bł¦du ujemnego ni» bł¦du dodatniego. Je»eli porównamy rysunki

białego szumu i reszt z dodatni¡ autokorelacj¡ to zauwa»ymy, »e na rysunku

z dodatni¡ autokorelacj¡ wykres reszt przecina o± zerow¡ znacznie rzadziej

ni» wykres białego szumu.

Paweł Strawi«ski

Notatki do ¢wicze« z ekonometrii

Rysunek 2: Dodatnia autokorelacja

100

Dodatnia autokorelacja jest znacznie cz¦±ciej wyst¦puj¡c¡ form¡ autoko-

relacji, ni» autokorelacja ujemna. Jest ona powszechnym zjawiskiem w przy-

padku modeli szacowanych na szeregach czasowych. Wyst¦puje w przypadku,

gdy zjawisko losowe zaburzaj¡ce przeci¦tny poziom zmiennych ma wpływ na

ich warto±ci w wi¦cej ni» jednym okresie.

Ujemna autokorelacja składnika losowego powoduje, »e wi¦ksze jest praw-

dopodobie«stwo zmiany znaku przez składnik losowy. Je»eli w okresie t jest

on dodatni, to w okresie t +1ze znacznie wi¦kszym prawdopodobie«stwem

b¦dzie on ujemny ni» dodatni. Natomiast je»eli w okresie t składnik losowy

jest ujemny, to ze znacznie wi¦kszym prawdopodobie«stwem b¦dzie on w

okresie t +1dodatni. Je»eli porównamy wykres reszt z ujemn¡ autokorelacj¡

z wykresem białego szumu, to zauwa»ymy, »e znacznie cz¦±ciej przecina on

poziom 0.

Proces AR Istnieje wiele form autokorelacji. Ka»da z nich prowadzi do in-

nej postaci macierzy wariancji-kowariancji składnika losowego ¾ 2 . Najbar-

dziej rozpowszechnion¡ form¡ autokorelacji jest proces autoregresyjny pierw-

szego rz¦du. W takim przypadku przyjmuje on posta¢:

" t = ½" t¡ 1 + Á t

(3)

gdzie Á» iid (0 ;¾ 2 )jest wektorem zmiennych losowych o niezale»nym rozkła-

dzie ze ±redni¡ zero i stał¡ wariancj¡ wynosz¡c¡ ¾ 2 . Zakładamy, »e warto±¢

składnika losowego jest równa ½ razy warto±¢ składnika z poprzedniego okre-

su plus innowacja Á t . Nowy komponent Á t ma ±redni¡ zero, stał¡ wariancj¦

Paweł Strawi«ski

Notatki do ¢wicze« z ekonometrii

Rysunek 3: Ujemna autokorelacja

100

i jest niezale»ny w wymiarze czasu. Dla porcesu AR(1) macierz wariancji-

kowariancji ma nast¦puj¡ca posta¢

1 ½ 0 ::: 0

½ 1 ½ 00

0 ½ 1 ½ 0

. :::½ . ½

000 ½ 1

6 6 6 6 6 4

7 7 7 7 7 5

Wzór na proces autoregresyjny mo»na uogólni¢. Proces autoregresyjny rz¦du

p ma nast¦puj¡c¡ posta¢ analityczn¡.

" t = ½ 1 " t¡ 1 + ½ 2 " t¡ 2 + ::: + ½ t¡p " t¡p + Á t (4)

Proces MA Inn¡ cz¦sto spotykan¡ form¡ autokorelacji jest proces ±redniej

ruchomej Moving Average . Warto±¢ w okresie t jest ±redni¡ warto±ci pocho-

dz¡cych z pewnej ilo±ci okresów. Ilo±¢ okresów determinuje rz¡d procesu.

y t = ¹ + " t ¡µ" t¡ 1 (5)

Podobnie jak w przypadku procesu AR mo»emy wzór uogólni¢. Proces ±red-

niej ruchomej rz¦du q dany jest przez

y t = ¹ + " t ¡µ 1 " t¡ 1 ¡µ 2 " t¡ 2 ¡:::¡µ q " t¡q (6)

Paweł Strawi«ski

Notatki do ¢wicze« z ekonometrii

2.2.2 Własno±ci estymatorów MNK

Estymator MNK dla modelu regresji jest dany przez:

b =( X 0 X ) ¡ 1 X 0 y (7)

Jest on nadal nieobci¡»ony, poniewa»

E ( b )= E [( X 0 X ) ¡ 1 X 0 y ]= E [( X 0 X ) ¡ 1 X 0 ( X¯ + " )]= E [( X 0 X ) ¡ 1 X 0 X

| {z }

¯ ]= ¯

czyli warto±¢ oczekiwana estymatora MNK nie zale»y od postaci składnika

losowego, ani jego wariancji. Tak si¦ dzieje w przypadku braku skorelowania

zmiennych obja±niaj¡cych z bł¦dem losowym.

Je»eli macierz X nie zawiera regresorów skorelowanych z bł¦dem losowym

" , to wariancj¦ estymatora b mo»emy zapisa¢ jako:

var ( b )= E [ b¡E ( b )][ b¡E ( b )] 0 = E [( X 0 X ) ¡ 1 X 0 "" 0 X ( X 0 X ) ¡ 1 ]

var ( b )= E [( X 0 X ) ¡ 1 X 0 ¾ 2 X ( X 0 X ) ¡ 1 ]= ¾ 2 ( X 0 X ) ¡ 1 X 0 X ( X 0 X ) ¡ 1 (8)

Jak wida¢, wariancja estymatora w przypadku gdy składnik losowy podlega

autokorelacji jest ró»na od ¾ 2 ( X 0 X ) ¡ 1 . Wobec tego statystyka S 2 b¦dzie ob-

ci¡»onym estymatorem wariancji składnika losowego. Je»eli w modelu wyst¦-

puje autokorelacja to zazwyczaj estymator MNK niedoszacowuje prawdziw¡

wielko±¢ wariancji. Ponadto testy statystyczne oparte na statystykach t , F

oraz Â 2 bardzo cz¦sto b¦d¡ dawa¢ mylne wyniki. Statystyki t cz¦±ciej ni»

powinny, b¦d¡ wskazywa¢ na istotno±¢ statystyczn¡ regresorów.

2.2.3 Estymator Praisa-Winstena

Podobnie jak w przypadku heteroscedastyczno±ci efektywnym estymatorem

dla modelu z autokorelacj¡ jest estymator otrzymany z wykorzystaniem Uogól-

nionej Metody Najmniejszych Kwadratów

b =( X 0 ¡ 1 X ) ¡ 1 X 0 y

Jednak w ogólnym przypadku nie znamy postaci macierzy wariancji-kowariancji

. Je»eli bł¡d losowy zawiera proces autoregresyjny pierwszego rz¦du, to mo-

del regresji mo»emy przedstawi¢ jako:

y t = X t ¯ + " t

(9)

w którym składnik losowy zale»y od warto±ci składnika losowego w poprzed-

nim okresie

" t = ½" t¡ 1 + Á t

(10)

Plik z chomika:

Inne pliki z tego folderu:

Inne foldery tego chomika: