Kysymys:
Mitä eroa on osittaisella todennäköisyydellä, profiilin todennäköisyydellä ja marginaalisella todennäköisyydellä?
Rob Hyndman
2010-07-26 14:12:21 UTC
view on stackexchange narkive permalink

Näen, että näitä termejä käytetään ja sekaisin niitä jatkuvasti. Onko niiden välisiä eroja yksinkertainen selitys?

Kaksi vastused:
#1
+62
user28
2010-07-26 19:40:28 UTC
view on stackexchange narkive permalink

Todennäköisyysfunktio riippuu yleensä monista parametreista. Sovelluksesta riippuen meitä kiinnostaa yleensä vain osa näistä parametreista. Esimerkiksi lineaarisessa regressiossa kiinnostus piilee tyypillisesti kaltevuuskertoimissa eikä virheiden varianssissa.

Merkitse kiinnostavat parametrit $ \ beta $ ja parametrit, jotka eivät ole ensisijaisen kiinnostavia, $ \ theta $ . Tavallinen tapa lähestyä arviointiongelmaa on maksimoida todennäköisyysfunktio niin, että saadaan arviot $ \ beta $ ja $ \ theta $ . Koska ensisijainen kiinnostus kohdistuu kuitenkin osaan $ \ beta $ , profiili ja marginaalinen todennäköisyys tarjoavat vaihtoehtoisia tapoja arvioida $ \ beta $ arvioimatta $ \ theta $ .

Jos haluat nähdä eron, merkitse vakiotodennäköisyys $ L (\ beta, \ theta | \ mathrm {data}) $ .

Suurin todennäköisyys

Etsi $ \ beta $ ja $ \ theta $ , joka maksimoi $ L (\ beta, \ theta | \ mathrm {data}) $ .

Osittainen todennäköisyys

Jos voimme kirjoittaa todennäköisyysfunktion seuraavasti:

$$ L (\ beta, \ theta | \ mathrm {data}) = L_1 (\ beta | \ mathrm {data}) L_2 (\ theta | \ mathrm {data}) $$

Sitten maksimoimme yksinkertaisesti $ L_1 (\ beta | \ mathrm {data}) $ .

Profiilin todennäköisyys

Jos voimme ilmaista $ \ theta $ funktiona $ \ beta $ , korvataan $ \ theta $ vastaavalla funktiolla.

Sano, $ \ theta = g (\ beta) $ . Sitten maksimoimme:

$$ L (\ beta, g (\ beta) | \ mathrm {data}) $$

Marginal Likelihood

Integroimme $ \ theta $ todennäköisyysyhtälöstä hyödyntämällä sitä, että voimme tunnistaa $ \ theta $ : n todennäköisyysjakauman ehdolla $ \ beta $ .

Huomaa, että tässä viimeinen määritelmä on * integroitu * (tai Bayesin) todennäköisyys, ei marginaalinen todennäköisyys.
Onko tämä oikein RHS: ssä osittaisen todennäköisyyden suhteen: "L2 (θ | theta)"?
@ars, muokkaatko vastausta ja annatko sitten marginaalisen todennäköisyyden määritelmän?
hmm, vakiotapa todennäköisyyden määrittelemiseksi on DATA GAMEN PARAMETRIEN todennäköisyys, toisin sanoen käänteinen ehdollisuus tälle kirjoitetulle
#2
+14
ars
2010-07-27 05:47:25 UTC
view on stackexchange narkive permalink

Kaikkia kolmea käytetään käsiteltäessä häiriöparametreja täysin määritetyssä todennäköisyysfunktiossa.

Marginaalinen todennäköisyys on ensisijainen menetelmä haitallisten parametrien eliminoimiseksi teoriassa. Se on todellinen todennäköisyysfunktio (eli se on verrannollinen havaittujen tietojen (marginaaliseen) todennäköisyyteen).

Osittainen todennäköisyys ei ole todellinen todennäköisyys yleensä. Joissakin tapauksissa sitä voidaan kuitenkin pitää todennäköisenä asymptoottisten johtopäätösten tekemiseksi. Esimerkiksi Coxin suhteellisten vaarojen malleissa, jos se on syntynyt, olemme kiinnostuneita havaituista tietojen luokituksista (T1> T2> ..) määrittelemättä lähtötilanteen vaaraa. Efron osoitti, että osittainen todennäköisyys menettää vain vähän tai ei lainkaan tietoa erilaisista vaaratoiminnoista.

Profiilin todennäköisyys on kätevä, kun meillä on moniulotteinen todennäköisyysfunktio ja yksi kiinnostava parametri. Se määritetään korvaamalla häiriö S sen MLE: llä kullakin kiinteällä T: llä (kiinnostava parametri), ts. L (T) = L (T, S (T)). Tämä voi toimia hyvin käytännössä, vaikka tällä tavalla saavutetussa MLE: ssä on potentiaalinen puolueellisuus; marginaali todennäköisyys korjaa tämän ennakkoluulon.



Tämä Q & A käännettiin automaattisesti englanniksi.Alkuperäinen sisältö on saatavilla stackexchange-palvelussa, jota kiitämme cc by-sa 2.0-lisenssistä, jolla sitä jaetaan.
Loading...