Utlede SME når det ikke fungerer å sette deriverte lik null

Anta at vi har stokastiske variabler \(X_1,X_2,\ldots,X_n\) som er et tilfeldig utvalg fra \(f(x;\theta)\)-populasjonen, der

Anta at verdien til parameteren \(\theta > 0\) er ukjent og at vi derfor ønsker å utlede sannsynlighetsmaksimeringsestimatoren for \(\theta\) basert på \(X_1,X_2,\ldots,X_n.\)

Utregning

Vi regner oss frem til SME for \(\theta\) ved å følge stegene i regneprosedyren som er formulert.

1. Det er antatt at \(X_1,X_2,\ldots,X_n\) er et tilfeldig utvalg. Dette innebærer at \(X_1,X_2,\ldots,X_n\) er uavhengige stokastiske variabler slik at vi får simultan sannsynlighetstetthet ved å gange sammen sannsynlighetstetthetene for hver variabel. Dermed får vi \[\begin{align} &f(x_1,x_2,\ldots,x_n) = \prod_{i=1}^n f(x_i;\theta)\\ &= \left\{\begin{array}{ll} \prod_{i=1}^n \frac{2x_i}{\theta} & \text{for \(x_1,x_2,\ldots,x_n\in [0,\theta]\),}\\ 0 & \text{ellers,}\end{array}\right. \\ &= \left\{\begin{array}{ll} \frac{2^n}{\theta^n}\prod_{i=1}^n x_i & \text{for \(x_1,x_2,\ldots,x_n\in [0,\theta]\),}\\0 & \text{ellers.}\end{array}\right.\end{align}\]
2. Rimelighetsfunksjonen blir dermed gitt ved samme matematiske uttrykk, men nå betraktet som en funksjon av \(\theta.\) Merk at siden \(x_1,x_2,\ldots,x_n\geq 0\) har vi at \(x_1,x_2,\ldots,x_n\in [0,\theta] \Leftrightarrow \theta \geq \max\{x_1,x_2,\ldots,x_n\},\) slik at vi får \[\begin{align} &L(\theta) = f(x_1,x_2,\ldots,x_n;\theta)\\ &= \left\{\begin{array}{ll} \frac{2^n}{\theta^n}\prod_{i=1}^n x_i & \text{for \(x_1,x_2,\ldots,x_n\in [0,\theta]\),}\\0 & \text{ellers,}\end{array}\right.\\ &= \left\{\begin{array}{ll} \frac{2^n}{\theta^n}\prod_{i=1}^n x_i & \text{for \(\theta \geq \max\{x_1,x_2,\ldots,x_n\}\).}\\0 & \text{ellers.}\end{array}\right.\end{align}\]
3. Vi finner så log-rimelighetsfunksjon ved å ta \(ln\) av rimelighetsfunksjonen. For \(\theta \geq \max\{x_1,x_2,\ldots,x_n\}\) får vi \[\begin{align} &l(\theta) = \ln L(\theta) \\ &= n\ln(2) - n\ln(\theta) + \sum_{i=1}^n \ln(x_i),\end{align}\] mens for \(\theta<\max\{x_1,x_2,\ldots,x_n\}\) er \(l(\theta) = \ln (0) = -\infty.\)
4. Hvis vi forsøker å finne maksimum av \(l(\theta)\) med å derivere får vi at \[l^\prime(\theta)=-\frac{n}{\theta}\] for \(\theta \geq \max\{x_1,x_2,\ldots,x_n\},\) mens \(l^\prime(\theta)\) er udefinert for \(\theta < \max\{x_1,x_2,\ldots,x_n\}.\) Vi ser dermed at ligningen \(l^\prime(\theta)=0\) ikke har noen løsning. For å finne hvor \(l(\theta)\) har sitt maksimum må vi derfor studere funksjonen \(l(\theta)\) i mer detalj. Vi kan observere at \(l^\prime(\theta)<0\) for alle \(\theta \geq \max\{x_1,x_2,\ldots,x_n\},\) som betyr at \(l(\theta)\) er strengt avtagende for \(\theta\geq \max\{x_1,x_2,\ldots,x_n\}.\) Siden vi dessuten vet at \(l(\theta)=-\infty\) for \(\theta <\max\{x_1,x_2,\ldots,x_n\}\) og at \(l(\theta) > 0\) for \(\theta \geq \max\{x_1,x_2,\ldots,x_n\}\) får vi dermed at \(l(\theta)\) må ha sitt maksimum for \(\theta=\max\{x_1,x_2,\ldots,x_n\}.\) Tegn eventuelt opp en skisse av \(l(\theta)\) for å se dette.
5. Vi finner dermed SME ved å ta utgangspunkt i \[\theta = \max\{x_1,x_2,\ldots,x_n\}\] og så erstatte \(\theta\) med \(\widehat{\theta}\) og erstatte \(x_1,x_2,\ldots,x_n\) med tilhørende stokastiske variabler \(X_1,X_2,\ldots,X_n.\) Dermed får vi at SME er gitt ved \[\underline{\underline{\widehat{\theta} = \max\{X_1,X_2,\ldots,X_n\}}}.\]

Kommentar

Vi kan legge merke til at det i eksemplet over ikke fungerer å finne SME ved å løse ligningen \(l^\prime(\theta)=0\) fordi \(l(\theta)\) er diskontinuerlig i verdien av \(\theta\) der \(l(\theta)\) har sitt maksimum. I andre eksempler kan det være at det ikke fungerer å finne SME ved å sette den deriverte lik null fordi funksjonen har sitt maksimum i et knekkpunkt eller på randen av definisjonsområdet.