Ymmärtääksesi miksi käytämme t-jakaumaa, sinun on tiedettävä, mikä on $ \ widehat {\ beta} $: n ja jäännösneliösumman ($ RSS $) taustalla oleva jakauma, koska nämä kaksi yhdessä antavat sinulle t-jakauma.

Helpompi osa on $ \ widehat {\ beta} $: n jakelu, joka on normaalijakauma - nähdäksesi tämän huomautuksen, että $ \ widehat {\ beta} $ = $ (X ^ {T} X) ^ {- 1} X ^ {T} Y $, joten se on $ Y $ lineaarinen funktio missä $ Y \ sim N (X \ beta, \ sigma ^ {2} I_ {n}) $. Tämän seurauksena se on myös normaalisti jaettu, $ \ widehat {\ beta} \ sim N (\ beta, \ sigma ^ {2} (X ^ {T} X) ^ {- 1}) $ - ilmoita minulle, jos tarvitsevat apua $ \ widehat {\ beta} $: n jakauman johtamiseen.

Lisäksi $ RSS \ sim \ sigma ^ {2} \ chi ^ {2} _ {n-p} $, jossa $ n $ on havaintojen määrä ja $ p $ on regressiossasi käytettyjen parametrien määrä. Todiste tästä on hieman enemmän mukana, mutta myös suoraviivainen (katso todiste täältä Miksi RSS on jaettu chi-neliö kertaa n-p?).

Tähän asti olen tarkastellut kaikkea matriisi / vektorimerkinnässä, mutta käytämme yksinkertaisuuden vuoksi $ \ widehat {\ beta} _ {i} $ ja sen normaalijakaumaa, joka antaa meille: \ begin {yhtälö} \ frac {\ widehat {\ beta} _ {i} - \ beta_ {i}} {\ sigma \ sqrt {(X ^ {T} X) ^ {- 1} _ {ii}}} \ sim N (0 , 1) \ end {yhtälö}

Lisäksi $ RSS $: n khi-neliöjakaumasta on seuraava: \ begin {yhtälö} \ frac {(n-p) s ^ {2}} {\ sigma ^ {2}} \ sim \ chi ^ {2} _ {n-p} \ end {yhtälö}

Tämä oli yksinkertaisesti ensimmäisen chi-neliön lausekkeen uudelleenjärjestely ja on riippumaton $ N (0,1) $: sta. Lisäksi määritellään $ s ^ {2} = \ frac {RSS} {n-p} $, joka on puolueeton estimaatti mallille $ \ sigma ^ {2} $. $ T_ {np} $ -määrityksen määritelmän mukaan normaalijakauman jakaminen itsenäisellä khi-neliöllä (sen vapausasteiden yli) antaa sinulle t-jakauman (todiste: Normaali jaettuna $ \ sqrt {\ chi ^ 2 (s) / s} $ antaa sinulle t-jakauman - todistuksen), että:

\ begin {yhtälö} \ frac {\ widehat {\ beta} _ {i} - \ beta_ {i}} {s \ sqrt {(X ^ {T} X) ^ {- 1} _ {ii}}} \ sim t_ {n-p} \ end {yhtälö}

Missä $ s \ sqrt {(X ^ {T} X) ^ {- 1} _ {ii}} = SE (\ widehat {\ beta} _ {i}) $.

Kerro minulle, onko sillä järkeä.

Vastaus on itse asiassa hyvin yksinkertainen: käytät t-jakelua, koska se on suunnilleen suunniteltu nimenomaan tätä tarkoitusta varten.

Ok, tässä on vivahde, että sitä ei ole suunniteltu erityisesti lineaariselle regressiolle. Gosset esitti populaatiosta otetun näytteen jakamisen. Piirrät esimerkiksi mallin $ x_1, x_2, \ pisteet, x_n $ ja lasket sen keskiarvon $ \ bar x = \ sum_ {i = 1} ^ n x_i / n $. Mikä on keskiarvon $ \ bar x $ jakauma?

Jos tiesit todellisen (populaation) keskihajonnan $ \ sigma $, sanoisit, että muuttuja $ \ xi = (\ bar x- \ mu) \ sqrt n / \ sigma $ on normaalista normaalista jakauma $ \ mathcal N (0,1) $. Ongelma on, että et yleensä tiedä $ \ sigma $, ja pystyt vain arvioimaan sen $ \ hat \ sigma $. Joten Gosset selvitti jakelun, kun korvaat $ \ sigma $: lla $ \ hat \ sigma $ nimittäjässä, ja jakelua kutsutaan nyt hänen nimimerkkinään "Student t".

Lineaarisen regression tekniset yksityiskohdat johtavat tilanteeseen, jossa voimme arvioida kerroinestimaatin $ \ hat \ sigma_ \ beta $ keskivirheen $ \ hat \ sigma_ \ beta $, mutta emme tiedä todellista $ \ sigma $ -arvoa, siksi opiskelijoiden t-jakaumaa sovelletaan myös tässä.