Mest effisient estimator
Når vi skal vurdere hvor god en estimator er, eller hvilken av to eller flere estimatorer som er best, må vi tenke oss at vi gjentar det tilhørende stokastiske forsøket uendelig mange ganger slik at vi får uendelig mange estimater. For at en estimator skal være god krever vi så at disse estimatene stort sett ligger nær den sanne, men ukjente, verdien \(\theta.\) Spesielt krever vi at gjennomsnittet av de uendelig mange estimatene skal være lik den sanne verdien \(\theta,\) og en estimator som oppfyller dette kravet kaller vi forventningsrett. Men det er åpenbart ikke nok at en estimator er forventningsrett, i tillegg må estimatene variere lite rundt gjennomsnittet. Vi bruker varians som et mål på variasjon så dette betyr at vi skal kreve at en god estimator skal ha liten varians.
Mest effisient estimator
Vi bruker varians til å måle hvor effisient, eller effektiv, en estimator er.
Kommentarer til definisjonen
Av flere forventningsrette estimatorer foretrekker vi den som er mest effisient. Dersom vi har to eller flere forventningsrette estimatorer vil vi altså velge å benytte den som har minst varians. For å forstå rimeligheten av dette må man huske på at varians er et mål på hvor mye observert verdi for en stokastisk variabel vil variere dersom man gjentar det stokastiske forsøket uendelig mange ganger. Ved å foretrekke den forventningsrette estimatoren som har minst varians vil man altså velge den estimatoren som i gjennomsnitt treffer riktig verdi og som samtidig gjennomgående bommer minst på den sanne verdien til parameteren.
Hvordan bestemme hvilken varians som er minst?
Hvis man har to forventningsrette estimatorer \(\hat{\theta}\) og \(\tilde{\theta}\) og ønsker å bestemme hvilken av disse som er den beste estimatoren må man altså bestemme hvilken av \(\text{Var}\!\left[ \hat{\theta}\right]\) og \(\text{Var}\!\left[ \tilde{\theta}\right]\) som er minst. Hvordan man enklest kan bestemme dette rent matematisk vil variere avhengighet av hvordan uttrykkene for de to variansene ser ut. Noen ganger kan det gi enklest regning å ta utgangspunkt i \[\text{Var}\!\left[ \hat{\theta}\right] - \text{Var}\!\left[ \tilde{\theta}\right]\] og så vise at denne differansen alltid er positiv eller alltid negativ. Andre ganger kan det gi enklere regning å ta utgangspunkt i \[\frac{\text{Var}\!\left[ \hat{\theta}\right]}{\text{Var}\!\left[ \tilde{\theta}\right]}\] og så vise at dette forholdet alltid er større enn en eller alltid mindre enn en. Merk at det også finnes tilfeller der hvilken varians som er minst avhenger av verdien til \(\theta,\) og da blir situasjonen mer komplisert siden verdien til \(\theta\) jo er ukjent.