Razlike između OLS i MLE

Anonim

OLS vs MLE

Često pokušavamo nestati kad se tema odnosi na statistiku. Za neke, suočavanje s statistikama je kao zastrašujuće iskustvo. Mrzimo brojeve, retke i grafikone. Ipak, moramo se suočiti s tom velikom preprekom kako bismo dovršili školovanje. Ako ne, vaša budućnost bi bila tamna. Nema nade i nema svjetla. Da bismo mogli proslijediti statistiku, često se susrećemo sa OLS i MLE. "OLS" označava "obične najmanje kvadrate", a "MLE" označava "maksimalnu procjenu vjerojatnosti". Obično su ta dva statistička izraza međusobno povezana. Učimo o razlikama između običnih najmanjih kvadrata i procjene maksimalnih vjerojatnosti.

Obični najmanji kvadrati, ili OLS, također se mogu nazvati linearnim najmanjim kvadratima. Ovo je metoda za približno određivanje nepoznatih parametara smještenih u linearnom regresijskom modelu. Prema knjigama statistike i drugih on-line izvora, obični najmanji kvadrati dobiveni su minimaliziranjem ukupnih kvadratnih vertikalnih udaljenosti između opaženih odgovora unutar skupa podataka i odgovora predviđenih linearnom aproksimacijom. Kroz jednostavnu formulu možete izraziti dobiveni procjenitelj, osobito jedinstveni regresor, koji se nalazi na desnoj strani linearnog regresijskog modela.

Na primjer, imate skup jednadžbi koji se sastoji od nekoliko jednadžbi s nepoznatim parametrima. Možete koristiti običnu metodu najmanjih kvadrata jer je to najprikladniji pristup pri pronalaženju približnog rješenja vaših pretjerano određenih sustava. Drugim riječima, vaše je cjelovito rješenje u minimiziranju zbroja kvadrata pogrešaka u vašoj jednadžbi. Priključivanje podataka može biti vaša najprikladnija aplikacija. Online izvori su izjavili da podaci koji se najbolje uklapaju u obične najmanje kvadrate smanjuju zbroj četvornih rezidua. "Rezidualna" je "razlika između izmjerene vrijednosti i ugrađene vrijednosti koju pruža model".

Maksimalna procjena vjerojatnosti, ili MLE, metoda je koja se koristi za procjenu parametara statističkog modela i za prilagodbu statističkom modelu podacima. Ako želite pronaći mjerenje visine svakog košarkaša na određenoj lokaciji, možete upotrijebiti procjenu maksimalne vjerojatnosti. Uobičajeno, naići ćete na probleme poput ograničenja troškova i vremena. Ako si ne možete priuštiti mjerenje svih visina košarke, maksimalna procjena vjerojatnosti bila bi vrlo zgodna. Pomoću procjene maksimalne vjerojatnosti možete procijeniti srednju vrijednost i varijancu visine vaših predmeta. MLE bi postavio srednju vrijednost i varijancu kao parametre pri određivanju specifičnih parametarskih vrijednosti u određenom modelu.

Ukratko, maksimalna procjena vjerojatnosti pokriva skup parametara koji se mogu koristiti za predviđanje podataka potrebnih u normalnoj distribuciji. Dati, fiksni skup podataka i njegov model vjerojatnosti vjerojatno će proizvesti predviđene podatke. MLE će nam dati jedinstven pristup prilikom procjene. No, u nekim slučajevima ne možemo koristiti maksimalnu procjenu vjerojatnosti zbog priznatih pogrešaka ili problem zapravo uopće ne postoji u stvarnosti.

Više informacija o OLS-u i MLE-u možete pronaći više statističkih knjiga. Online enciklopedija Web stranice su također dobri izvori dodatnih informacija.

Sažetak:

  1. "OLS" označava "obične najmanje kvadrate" dok "MLE" označava "maksimalnu procjenu vjerojatnosti".

  2. Obični najmanji kvadrati, ili OLS, također se mogu nazvati linearnim najmanjim kvadratima. Ovo je metoda za približno određivanje nepoznatih parametara smještenih u linearnom regresijskom modelu.

  3. Maksimalna procjena vjerojatnosti, ili MLE, metoda je koja se koristi za procjenu parametara statističkog modela i za prilagodbu statističkog modela podataka.