Regneprosedyre: Hvilken estimator som er best?

Anta at vi har stokastiske variabler \(X_1,X_2,\ldots,X_n\) med en fordeling som avhenger av en parameter \(\theta,\) og der verdien til parameteren \(\theta\) er ukjent. Anta videre at det er foreslått to eller flere estimatorer \(\hat{\theta}_1,\hat{\theta}_2,\ldots,\hat{\theta}_K\) for \(\theta\), der altså \(K\geq 2\). Vi ønsker nå å bestemme hvilken av \(\hat{\theta}_1,\hat{\theta}_2,\ldots,\hat{\theta}_K\) som er den beste estimatoren for \(\theta\).

For å bestemme hvilken estimator som er best benytter vi to kriterier:

1. Vi ønsker at en estimator skal være forventningsrett.
2. Blant de forventningsrette estimatorene foretrekker vi den som er mest effisient.

Fremgangsmåten for å bestemme hvilken estimator som er best er da:

1. For hver estimator \(\hat{\theta}_k,k=1,2,\ldots,K\) benytt regneregler for forventningsverdi til en (lineær og/eller ikke-lineær) funksjon av stokastiske variabler til å bestemme \(\text{E}\!\left[\hat{\theta}_k\right]\). Dersom \(\text{E}\!\left[\hat{\theta}_k\right]=\theta\) er estimatoren \(\hat{\theta}_k\) forventningsrett, hvis ikke er den forventingsskjev. Dersom kun en av de foreslåtte estimatorene er forventningsrett er dette den beste estimatoren. Dersom to eller flere av de foreslåtte estimatorene er forventningsrette må vi gå videre til neste kriterium for å bestemme hvilken av de forventningsrette estimatorene som er den beste.
2. For hver forventningsrett estimator \(\hat{\theta}_k\) benytt regneregler for varians til en (lineær og/eller ikke-lineær) funksjon av stokastiske variabler til å bestemme \(\text{Var}\!\left[\hat{\theta}_k\right]\). Bestem deretter hvilken av disse variansene som er minst. Den forventningsrette estimatoren som har minst varians sies å være den mest effisiente, og er den beste estimatoren.

Kommentar

Når man regner ut en varians i punkt 2 vil man vanligvis ende opp med en formel hvor parameteren \(\theta\) inngår, og ikke et tall. Det å bestemme hvilken av to (eller flere) varianser som er minst kan dermed i noen situasjoner bli regnemessig noe komplisert. Dersom man skal bestemme hvilken av to varianser som er minst kan det enkleste i noen tilfeller være å regne på forholdet mellom de to variansene og forsøke å vise at dette forholdet alltid er mindre enn eller lik \(1\) eller alltid større enn eller lik \(1\). I andre tilfeller blir det enklest regning ved å se på differensen mellom de to variansene og forsøke å vise at differensen alltid er større enn eller lik \(0\) eller mindre enn eller lik \(0\). En annen mulighet er å plotte opp forholdet mellom eller differansen mellom de to variansene som funksjon av \(\theta\) og benytte dette til å få oversikt over situasjonen.

Eksempel

Nederst på siden finner du lenke til eksempler hvor denne prosedyren er benyttet til å bestemme hvilken av tre foreslåtte estimatorer som er best.