AIC i BIC
AIC i BIC su široko korišteni u kriterijima odabira modela. AIC znači Akaike-ove informacijske kriterije i BIC znači Bayesian Information Criteria. Iako ova dva izraza označavaju odabir modela, oni nisu isti. Može doći do razlika između dva pristupa odabira modela.
Akaike je informacijski kriterij formiran u 1973 i Bayesian Information Criteria u 1978. Hirotsugu Akaike razvijen Akaike informacijskih kriterija, dok Gideon E. Schwarz razvio Bayesian kriterij informiranja.
AIC se može nazvati kao mjera dobrote uklapanja bilo kojeg procijenjenog statističkog modela. BIC je vrsta odabira modela između klase parametarskih modela s različitim brojem parametara.
Prilikom usporedbe Bayesovih informacijskih kriterija i Akaikeovih informacijskih kriterija, kazna za dodatne parametre više je u BIC nego AIC. Za razliku od AIC, BIC snažno penalizira slobodne parametre.
Akaikeovi informacijski kriteriji općenito pokušavaju pronaći nepoznat model koji ima visoku dimenzijsku stvarnost. To znači da modeli nisu pravi modeli u AIC. S druge strane, Bayesovim informacijskim kriterijima pojavljuju se samo True modeli. Također se može reći da su Bayesovim informacijskim kriterijima dosljedni, dok Akaikeovi informacijski kriteriji nisu takvi.
Kada Akaikeovi informacijski kriteriji predstavljaju opasnost da će biti opremljena. Bayesovim informacijskim kriterijima predstavljat će opasnost da će to podnijeti. Iako je BIC tolerantniji u usporedbi s AIC-om, on pokazuje manje tolerancije kod većih brojeva.
Akaikeovi informacijski kriteriji dobar su za izradu asimptotski ekvivalentnih unakrsnoj validaciji. Naprotiv, Bayesovim informacijskim kriterijima dobar je za dosljednu procjenu.
Sažetak
1. AIC znači Akaike-ove informacijske kriterije i BIC znači Bayesian Information Criteria.
2. Akaike-ovi kriteriji za informiranje formirani su 1973. i Bayesian Information Criteria u 1978. godini.
3. Prilikom usporedbe Bayesovih informacijskih kriterija i Akaikeovih informacijskih kriterija, kazna za dodatne parametre više je u BIC nego AIC.
4. Akaikeovi informacijski kriteriji općenito pokušavaju pronaći nepoznati model koji ima visoku dimenzijsku stvarnost. S druge strane, Bayesovim informacijskim kriterijima pojavljuju se samo True modeli.
5. Bayesijski informacijski kriteriji su dosljedni, dok Akaikeovi informacijski kriteriji nisu takvi.
6. Akaike's Information Criteria je dobra za izradu asimptotski ekvivalentan unakrsnoj validaciji. Naprotiv, Bayesovim informacijskim kriterijima dobar je za dosljednu procjenu.
7. Iako je BIC tolerantniji u usporedbi s AIC, on pokazuje manje tolerancije kod većih brojeva.
8. Za razliku od AIC, BIC snažnije penalizira slobodne parametre.
//
