SME
Det finnes ulike prinsipper og metoder for å konstruere en estimator for en parameter. Et slikt prinsipp som er mye brukt er sannsynlighetsmaksimeringsprinsippet. Dette prinsippet sier at når man skal estimere verdien til en parameter \(\theta\) basert på observerte verdier \(x_1,x_2,\ldots,x_n\) skal man velge den verdien av \(\theta\) som gjør det mest sannsynlig å observere de verdiene man faktisk har observert. Estimatoren man ender opp med når man benytter dette prinsippet kalles sannsynlighetsmaksimeringsestimator, som gjerne forkortes til SME. På denne temasiden diskuterer vi sannsynlighetsmaksimeringsprinsippet og sannsynlighetsmaksimeringsestimatoren.
Sannsynlighetsmaksimeringsprinsippet
Nå formulerer vi sannsynlighetsmaksimeringsprinsippet og bruker etterpå rimelighetsfunksjonen til å formulere den matematiske konsekvensen av å benytte dette prinsippet.
Kommentar
Da rimelighetsfunksjonen \(L(\theta;x_1,x_2,\ldots,x_n)\) uttrykker hvor sannsynlig det er å observere det man har observert, angir sannsynlighetsmaksimeringsprinsippet at man som estimat for \(\theta\) skal benytte den verdi av \(\theta\) som maksimerer \(L(\theta;x_1,x_2,\ldots,x_n)\). Det er verdt å merke seg at dette estimatet naturlig nok blir en funksjon av de observerte verdiene \(x_1,x_2,\ldots,x_n\). I definisjonen under benytter vi notasjonen \(\hat{\theta} = u(x_1,x_2,\ldots,x_n)\) for dette sannsynlighetsmaksimeringsestimatet. Matematisk betyr dette at vi har
\[ \begin{align} L(u(x_1,&x_2,\ldots,x_n);x_1,x_2,\ldots,x_n)\\ &\geq L(\theta;x_1,x_2,\ldots,x_n) \end{align} \]
for alle parameterverdier \(\theta\) og alle verdier \(x_1,x_2,\ldots,x_n\).
SME
Basert på begrepene og notasjonen vi har etablert over kan vi nå definere hva vi skal mene med sannsynlighetsmaksimeringsestimator, som vi forkorter til SME.
Kommentarer
Man skal merke seg at vi i definisjonen over har benyttet samme symbol \(\hat{\theta}\) både for estimatoren for \(\theta\) og for tilhørende observert estimat. For en nærmere diskusjon om forskjellen mellom en estimator og et estimat og tilhørende notasjon, se diskusjon på temasiden hvor vi definerer og diskuterer estimatorer.
Når man skal utlede SME vil det i de fleste tilfeller gi enklere regning dersom man fokuserer på \(\ln(L(\theta;x_1,x_2,\ldots,x_n))\) i stedet for på rimelighetsfunksjonen \(L(\theta;x_1,x_2,\ldots,x_n)\) selv. Dette er motivasjonen for å definere log-rimelighetsfunksjonen.