Utlede SME ved å sette deriverte lik null

Anta at vi har stokastiske variabler \(X_1,X_2,\ldots,X_n\) som er et tilfeldig utvalg fra \(f(x;\theta)\)-populasjonen, der \[f(x;\theta) = \theta e^{-\left(x+\theta e^{-x}\right)}\] for \(-\infty<x<\infty.\) Anta at verdien til parameteren \(\theta > 0\) er ukjent og at vi derfor ønsker å utlede sannsynlighetsmaksimeringsestimatoren for \(\theta\) basert på \(X_1,X_2,\ldots,X_n.\)

Utregning

Vi regner oss frem til SME for \(\theta\) ved å følge stegene i regneprosedyren som er formulert.

1. Det er antatt at \(X_1,X_2,\ldots,X_n\) er et tilfeldig utvalg. Dette innebærer at \(X_1,X_2,\ldots,X_n\) er uavhengige stokastiske variabler slik at vi får simultan sannsynlighetstetthet ved å gange sammen sannsynlighetstetthetene for hver variabel. Dermed får vi \[\begin{align} f(x_1,x_2,&\ldots,x_n;\theta) = \prod_{i=1}^n f(x_i;\theta)\\ &= \prod_{i=1}^n \left[\theta e^{-\left(x_i+\theta e^{- x_i}\right)}\right]\\&= \theta^n \exp\left\{ -\sum_{i=1}^n \left[ x_i + \theta e^{-x_i}\right]\right\}.\end{align}\]
2. Rimelighetsfunksjonen blir dermed gitt ved samme matematiske uttrykk, men nå betraktet som en funksjon av \(\theta,\) \[\begin{align} L(\theta) &= f(x_1,x_2,\ldots,x_n;\theta)\\ &= \theta^n \exp\left\{ -\sum_{i=1}^n \left[ x_i + \theta e^{-x_i}\right]\right\}.\end{align}\]
3. Vi finner så log-rimelighetsfunksjon ved å ta \(\ln\) av rimelighetsfunksjonen, \[\begin{align}l(\theta) &= \ln L(\theta)\\ &= n\ln (\theta) - \sum_{i=1}^n \left[x_i + \theta e^{-x_i}\right]\\ &= n\ln(\theta) - \sum_{i=1}^n x_i - \theta \sum_{i=1}^n e^{-x_i}.\end{align}\]
4. Finner så hvilken verdi av \(\theta\) som maksimerer \(l(\theta).\) a) Deriverer først log-rimelighetsfunksjonen, \[\begin{align} l^\prime(\theta) &= n\cdot \frac{1}{\theta} - 0 - \sum_{i=1}^n e^{-x_i}\\ &= \frac{n}{\theta} - \sum_{i=1}^n e^{-x_i}.\end{align}\] b) Løser så \(l^\prime(\theta)=0\) med hensyn på \(\theta,\) \[\begin{align} l^\prime(\theta) &= 0\\ \frac{n}{\theta} &= \sum_{i=1}^n e^{-x_i}\\ \theta &= \frac{n}{\sum_{i=1}^n e^{-x_i}}. \end{align}\] c) Sjekker så at vi har funnet er maskimumspunkt og ikke er minimumspunkt ved å sjekke fortegnet til den andrederiverte av log-rimelighetsfunksjonen i den verdien av \(\theta\) vi fant i b). Den andrederiverte blir \[\begin{align} l^{\prime\prime}(\theta) &= \frac{\text{d}}{\text{d}\theta}\left[ \frac{n}{\theta} - \sum_{i=1}^n e^{-x_i}\right]\\ &= -\frac{n}{\theta^2}.\end{align}\] Vi ser at \(l^{\prime\prime}(\theta) < 0\) for alle \(\theta > 0.\) Dermed har vi spesielt at \(l^{\prime\prime}(\theta)<0\) for \(\theta = n\left/\left[\sum_{i=1}^n e^{-x_i}\right]\right.\) og vi kan konkludere at vi har funnet et maksimumspunkt.
5. Vi finner dermed SME ved å ta utgangspunkt i \[\theta = \frac{n}{\sum_{i=1}^n e^{-x_i}}\] og så erstatte \(\theta\) med \(\widehat{\theta}\) og erstatte \(x_1,x_2,\ldots,x_n\) med tilhørende stokastiske variabler \(X_1,X_2,\ldots,X_n.\) Dermed får vi at SME er gitt ved \[\underline{\underline{\widehat{\theta} = \frac{n}{\sum_{i=1}^n e^{-X_i}}}}.\]

Kommentar

I punkt 4c) over sjekket vi at vi hadde funnet et maksimumspunkt ved å sjekke fortegnet til den andrederiverte av log-rimelighetsfunksjonen i den verdien av \(\theta\) vi fant i 4b). Når ligningen som løses i punkt 4b) kun har en løsning, slik den hadde i eksemplet over, er det mye vanlig å hoppe over punkt 4c). Dersom ligningen som løses i punkt 4b) derimot har flere løsninger er det essensielt å sjekke fortegnet til den andrederiverte for å finne ut hvilke(n) av disse løsningene som faktisk er et maksimumspunkt.