Procjena najveće vjerojatnosti

Procjena maksimalne vjerojatnosti (VLE) opći je model za procjenu parametara raspodjele vjerojatnosti koji ovisi o opažanjima u uzorku.

Drugim riječima, EMV maksimizira vjerojatnost parametara funkcija gustoće koji ovise o raspodjeli vjerojatnosti i promatranjima u uzorku.

Kada govorimo o procjeni najveće vjerojatnosti, moramo razgovarati o funkcija maksimalna vjerojatnost. Matematički, s obzirom na uzorak x = (x1,…, Xn) i parametri, θ = (θ1,…, Θn) onda,

Nemojte paničariti! Ovaj simbol znači isto što i zbrajanje zbrojeva. U ovom slučaju umnožavanje svih funkcija gustoće ovisi o opažanjima uzoraka (xja) i parametri θ.

Što je veća vrijednost L (θ | x), odnosno vrijednost funkcije maksimalne vjerojatnosti, to će vjerojatnije biti parametri temeljeni na uzorku.

Logaritamska funkcija EMV

Da bismo pronašli maksimalne procjene vjerojatnosti, moramo diferencirati (izvesti) produkte funkcija gustoće i to nije najudobniji način za to.

Kad naiđemo na komplicirane funkcije, ono što možemo učiniti je monotona transformacija. Drugim riječima, to bi bilo poput želje za crtanjem Europe u stvarnim razmjerima. Trebali bismo je smanjiti kako bi stala na list papira.

U ovom slučaju, monotonu transformaciju radimo koristeći prirodne logaritme jer su monotone i rastuće funkcije. Matematički,

Svojstva logaritama omogućuju nam da gornje množenje izrazimo kao zbroj prirodnih logaritama primijenjenih na funkcije gustoće.

Dakle, monotona transformacija logaritmima je jednostavno "promjena ljestvice" na manje brojeve.

Procijenjena vrijednost parametara koji maksimiziraju vjerojatnost parametara funkcije maksimalne vjerojatnosti s logaritamima jednaka je procijenjenoj vrijednosti parametara koji maksimiziraju vjerojatnost parametara izvorne funkcije najveće vjerojatnosti.

Dakle, uvijek ćemo se nositi s monotonom modifikacijom funkcije maksimalne vjerojatnosti s obzirom na njezinu veću jednostavnost izračuna.

Znatiželja

Koliko god EMV izgledao složen i čudan, mi ga kontinuirano primjenjujemo, a da toga nismo svjesni.

Kada?

U svim procjenama parametara linearne regresije pod klasičnim pretpostavkama. Poznatiji pod nazivom Obični najmanji kvadrati (OLS).

Drugim riječima, kada primjenjujemo OLS, EMV implicitno primjenjujemo jer su oba jednaka u smislu dosljednosti.

App

Kao i druge metode, EMV se temelji na iteraciji. Odnosno, ponavljanje određene radnje onoliko puta koliko je potrebno za pronalaženje maksimalne ili minimalne vrijednosti funkcije. Ovaj postupak može biti podložan ograničenjima na konačne vrijednosti parametara. Na primjer, da je rezultat veći ili jednak nuli ili da zbroj dvaju parametara mora biti manji od jednog.

Simetrični GARCH model i njegova različita proširenja primjenjuju EMV kako bi pronašli procijenjenu vrijednost parametara koja maksimizira vjerojatnost parametara funkcija gustoće.