kmrl.pdf

(127 KB) Pobierz
257042354 UNPDF
PawełStrawi«ski Notatkido¢wicze«zekonometrii
1.1KlasycznyModelRegresjiLiniowej
KlasycznymodelRegresjiLiniowejjestbardzou»ytecznymnarz¦dziemsłu-
»¡cymdoanalizydanychempirycznych.Analizaregresjizajmujesi¦opisem
zale»no±cimi¦dzywybran¡zmienn¡(nazywan¡zmienn¡zale»n¡lubobja-
±nian¡)ijedn¡lubwielomazmiennyminazywanymizmiennyminiezale»nymi
lubobja±niaj¡cymi.TerminregresjazostałazaproponowanyprzezFrancisa
Galtona,któryzajmowałsi¦genetyk¡ieugenik¡.Badaj¡czale»no±¢mi¦dzy
wzrostemdzieciawzrostemrodzicówstwierdził,»ewysocyrodzicemaj¡wy-
sokiedzieci,niscyrodziceniskie,aleistniejetendencjazbie»no±ciwzrostudo
±redniejwarto±ci.T¡tendencj¦nazwał»egresj¡doprzeci¦tno±ci”.
Buduj¡cmodelzjawiskazachodz¡cegowpopulacjiposługujemysi¦infor-
macjamipochodz¡cymizpróby
y=X+"
y=Xb+e (1)
,"-warto±cipochodz¡cezpopulacji,
b,e-warto±cipochodz¡cezpróby.
Zjawiskozachodz¡cewpopulacjiopisa¢mo»emynast¦puj¡cymrówna-
niemliniowym:
y=X+" (2)
gdzie:
y-wektorwarto±cizmiennejobja±nianej(zale»nej),
X-macierzzmiennychobja±niaj¡cych(niezale»nych),
-wektornieznanychparametrów
"-składniklosowy(czynnikstochastycznyrównania).
Wekonomiizazwyczajzachodziproblemprzeidentyfikowaniaukładurów-
na«.Szukamyrozwi¡zaniarównania,któremadu»owi¦cejwarunkówogra-
niczaj¡cych(obserwacji)ni»jestwrównaniuniewiadomych(parametrów
wmodelu).Wrezultaciebardzorzadkootrzymujemydokładnerozwiaza-
nieukładu,cz¦±ciejnajlepszeliniowejegoprzybli»enie.
2
y 1
y 2
...
y n
3
2
x 11 x 21 ... x 1k
x 21 x 22 ... x 2k
... ... ... ...
x n1 x n2 ... x nk
3
2
1
2
...
k
3
2
" 1
" 2
...
" n
3
y=
6 6 4
7 7 5 X=
6 6 4
7 7 5 =
6 6 4
7 7 5 "=
6 6 4
7 7 5
Modelzjawiskazapisujemyjako:
1
PawełStrawi«ski Notatkido¢wicze«zekonometrii
E[y|X]=X (3)
lubalternatywnie:
y=Xb+e (4)
Bardzocz¦stoprzyjmujesi¦,»emodelposiadastał¡.Wtedypierwszako-
lumnamacierzyzmiennychobja±niaj¡cychXwypełnionajestprzezwektor
l 0 =[1,1,..,1].
Zało»eniamodelu :
1.Zwi¡zekpomi¦dzyyax 1 ,...,x k jestopisanyrównaniemy=X+
".Alternatywnietozało»eniedefiniowanejestjakoy=X+"jest
procesemgeneruj¡cymdane.
2.liniowo±¢.Omodeluekonometrycznymmówimy,»ejestliniowyje±lijest
liniowywzgl¦demparametrów.Modelniemusiby¢liniowywzgl¦dem
zmiennych.Mog¡by¢onedowolnymifunkcjamiodwarto±ciobserwo-
wanych.
Przykładymodeliliniowych:
•y= 0 +x 1 1 +x 2 2
•y= 0 +x 2 1 1 +x 2 2 2
•Równaniewyj±ciowe:y=Ax e " pozlogarytmowaniumaform¦
liniow¡:lny=lnA+lnx+"lne
•lny= 0 + 1 lnx 1 + 2 lnx 2 +"jesttowa»nymodelnosz¡cynazw¦
modelulogliniowego.
3.E(")=0.Warto±¢oczekiwanaskładnikalosowegowynosi0.
4.Wariancjaskładnikalosowegojestidentycznadlawszystkichobserwacji
(homoscedastyczno±¢).8i var(" i )= 2
5.Kowariancjami¦dzydwomaró»nymibł¦damilosowymiwynosizero.
8i 6=j cov(" i ," j ).
6.SkładniklosowymawielowymiarowyrozkładnormalnyN(0, 2 I),jest
homoscedastyczny,orazwyst¦pujebrakautokorelacji.E("" 0 )= 2 I)
var(")=E("" 0 )
2
PawełStrawi«ski Notatkido¢wicze«zekonometrii
Macierzwariancji-kowariancji.
2
" 1
" 2
...
" k
3
2
" 1 " 1 " 1 " 2 ... " 1 " k
" 2 " 1 " 2 " 2 ... " 2 " k
... ... ... ...
" k " 1 " k " 2 ... " k " k
3
6 6 4
7 7 5
" 1 " 2 ... " k =
6 6 4
7 7 5
7.Egzogeniczno±¢zmiennychniezale»nychE[" i |x i,1 ,x i,2 ,...,x i,k ]=0.
Zaburzenielosoweniejestfunkcj¡zmiennychobja±niaj¡cychmodelu.
8.MacierzXzawierawielko±cistałelubelementylosowe,aleprocesge-
neruj¡cydanejestniezale»nyodskładnikalosowego".
9.MacierzXmapełenrz¡dkolumnowy.rz(X)=kT
1.2Metodanajmniejszychkwadratów(MNK)
Celemestymacjijestdopasowanieliniiregresjidozaobserwowanegozbioru
danychempirycznych.Modeljesttymlepiejdopasowanyimmniejszajestod-
legło±¢warto±citeoretycznychˆyodwarto±cizaobserwowanychydlazmiennej
zale»nej.Celemjestminimalizacja
min X
i
dist(y i ,ˆy i )
poniewa»wprzestrzeniacheuklidesowychwszystkiemetrykis¡równowa»ne
mo»emydlacelówoptymalizacjiwybra¢dowoln¡znich.Najlepszymwybo-
remb¦dzie||·|| 2 .Przytakimwyborzeproblemminimalizacjisprowadzisi¦
dominimalizacjisumykwadratówreszt.Ponadto,zastosowanafunkcjajest
ci¡głairó»niczkowalnadlawszystkichwarto±cireszte i .Dzi¦kitemuroz-
wi¡zuj¡cwstandardowysposóbwarunkipierwszegorz¦dumo»naznale¹¢jej
optimum.
NazwaMetodanajmniejszychkwadratów(MNK)bierzesi¦zewzgl¦duna
sposóbznajdowaniaoptymalnychwarto±cinieznanychparametrów.Polega
naminimalizowaniusumykwadratówresztszacowanegomodelu.Szacujemy
modely=Xb+e)e=y−Xb
RSS=e 0 e=(y−Xb) 0 (y−Xb)=(y 0 −b 0 X 0 )(y−Xb)=
=y 0 y−y 0 Xb−b 0 X 0 y+b 0 X 0 Xb
Poniewa»y 0 Xborazb 0 X 0 ys¡skalarami(liczbami)mo»emyjedoda¢.Otrzy-
mujemy:
RSS=y 0 y−2b 0 X 0 y+b 0 X 0 Xb (5)
3
PawełStrawi«ski Notatkido¢wicze«zekonometrii
Wceluminimalizacjisumykwadratówbł¦dówliczymyjejpochodna.Po-
chodnawektora,topochodnaka»degojegoelementuliczonaosobno.
@b =−2X 0 y+2X 0 Xb
@ 2 RSS
@b@b 0 =2X 0 X
poniewa»macierzXmapełenrz¡dkolumnowy,tomacierzX 0 Xjestdodatnio
okre±lonawi¦c @RSS
@b jestszukanymminimum.
Zapisujemywarunekpierwszegorz¦du:
−2X 0 y+2X 0 Xb=0
X 0 y=X 0 Xb
mno»ymyobiestronyprzezmacierz(X 0 X) −1 zlewejstrony.Poniewa»ma-
cierzX 0 Xmapełenrz¡dkolumnowyijestdodatniookre±lonatojestodwra-
calna
(X 0 X) −1 X 0 y=(X 0 X) −1 X 0 Xb
b=(X 0 X) −1 X 0 y
Własno±cialgebraicznemetodyMNK.
1.ka»dyregresor,orazcałamacierzregresorówjestortogonalna(prosto-
padła)wzgl¦demwektorareszt
X 0 e=0
Dowód:Zwarunkówpierwszegorz¦dumamy
X 0 Xb=X 0 y
X 0 y−X 0 Xb=0=)X 0 ( y−X 0 b )
|{z}
X 0 e=0
=0
4
@RSS
PawełStrawi«ski Notatkido¢wicze«zekonometrii
2.hiperpłaszyznaregresjiprzechodziprzezpunkt±rednich( ¯ X,¯y)Dowód:
Zwarunkówpierwszegorz¦dumamy
X 0 Xb=X 0 y
we¹mypoduwag¦jedyniepierwszywierszmacierzyX 0 zawieraj¡cy
jedynkiwówczas:
l 0 Xb=l 0 y
[T,x 1 ,x 2 ,...,x k ]b=y /:T
[1,x 1 /T,x 2 /T,...,x k /T]b=y/T
[1,¯x 1 ,¯x 2 ,...,¯x k ]b=¯y
3.wektorresztejestortogonalnydowektorawarto±cidopasowanychˆy
ˆy 0 e=0
Dowód:wektorwarto±cidopasowanychˆy=Xb)ˆy 0 =b 0 X 0 .
ˆy 0 e=b 0 X 0 e
|{z}
0
=0
Dlamodeluzestał¡mo»napokaza¢dwiedodatkowewłasno±ci
4.sumaresztjestrównazero.Dowód:Zwłasno±ci1wiadomo,»eX 0 e=0.
NiechX=l.Wówczas:
X 0 e=l 0 e= X
i
e=0
5.±redniawarto±¢teoretycznajestrówna±redniejwarto±ciempirycznej
(próbkowej) ¯ ˆy=¯y.Dowód:Wiemy,»e
y=Xb+e=ˆy+e ·/l 0
l 0 y=l 0 ˆy+l 0 e
|{z}
0
·/N
N = l 0 ˆy
N =¯y= ¯ ˆy
5
l 0 y
Zgłoś jeśli naruszono regulamin