Normalfordeling

Normalfordelingen står i en særstilling blant sannsynlighetsfordelingene. Grunnen er at sannsynlighetsfordelingen til summer og gjennomsnitt av uavhengige stokastiske variabler, som alle har samme fordeling, nærmer seg en normalfordeling. Tilnærmingen blir bedre jo flere variabler vi summerer eller tar gjennomsnittet av. Dette resultatet kalles sentralgrenseteoremet. Det er verdt å merke seg at det ikke er viktig hvilken fordeling de enkelte variablene har, summen eller gjennomsnittet vil uansett nærme seg normalfordelingen.

Normalfordeling

Vi starter med å definere normalfordelingen ved å angi hvilken parametriske form sannsynlighetstettheten skal ha.

Kommentar

Man kan merke seg at det implisitt i definisjonen ligger en påstand om hva forventningsverdien og variansen er i en normalfordeling er. At denne påstanden er korrekt blir etablert i teoremet om forventningsverdi og varians lenger nede på denne siden.

Notasjon

Det benyttes ulike notasjoner for å spesifisere at en stokastisk variabel \(X\) er normalfordelt med forventningsverdi \(\mu\) og varians \(\sigma^2.\) Det mest vanlige er å skrive \(X\sim \text{N}(\mu,\sigma^2).\) En annen variant er å skrive \(X\sim n(x;\mu,\sigma,)\) der \(n(x;\mu,\sigma)\) betegner sannsynlighetstettheten til den angjeldende normalfordeling.

Sannsynlighetstettheten \(f(x)\) i en standard normalfordeling betegnes alternativt ofte med \(\varphi(x),\) dvs

\[ \varphi(x) = \frac{1}{\sqrt{2\pi}}e^{-\frac{1}{2}x^2}, \]

og for den tilhørende kumulative fordelingsfunksjonen \(F(x)\) brukes tilsvarende ofte \(\Phi(x).\) En stokastisk variabel som er standard normalfordelt betegnes gjerne med bokstaven \(Z.\) Dersom det er flere stokastiske variabler som er uavhengige og standard normalfordelte betegnes de gjerne med \(Z_1,Z_2,Z_3\) og så videre.

Eksempler på sannsynlighetstetthet

Figur 1 viser sannsynlighetstettheten for fire normalfordelinger. Standard normalfordelingen, \(\text{N}(0,1),\) er vist i rødt, \(\text{N}(0,2)\)-fordelingen i blått, \(\text{N}(2,1)\)-fordelingen i grønt og \(\text{N}(2,0.5)\)-fordelingen i brunt.

Figur 1: Sannsynlighetstettheter \(f(x)\) for normalfordelinger med \(\mu=0,\sigma=1\) i rødt, \(\mu=0,\sigma=2\) i blått, \(\mu=2,\sigma=1\) i grønt, og \(\mu=2,\sigma=0.5\) i brunt.

Forventningsverdi og varians

Den enkleste metoden for å bestemme forventningsverdien i en normalfordeling er å observere at sannsynlighetstettheten er symmetrisk om punktet \(\mu.\) Vi kan vise dette ved

\[ \begin{align} f(\mu-x) &= \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma} e^{-\frac{1}{2}\frac{(\mu-x-\mu)^2}{\sigma^2}}\\ &= \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma} e^{-\frac{1}{2}\frac{(-x)^2}{\sigma^2}}\\ &= \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma} e^{-\frac{1}{2}\frac{x^2}{\sigma^2}}\\ &= \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma} e^{-\frac{1}{2}\frac{(\mu+x-\mu)^2}{\sigma^2}}\\ &= f(\mu+x). \end{align} \]

Som diskutert på temasiden hvor vi definerer forventningsverdi er dermed \(\text{E}[X] = \mu.\) Alternativt kan vi ta utgangspunkt i definisjonen av forventningsverdi direkte. Da får vi

\[ \begin{align} \text{E}[X] &= \int_{-\infty}^\infty xf(x)\text{d}x\\ &= \int_{-\infty}^\infty x \cdot \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma}e^{-\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2}}\text{d}x\\ \end{align} \]

Kan så bruke substitusjonen \(y=\frac{x-\mu}{\sigma}\Leftrightarrow x = \mu + \sigma y\) som gir \(\text{d}x=\sigma\text{d}y\) og dermed

\[ \begin{align} \text{E}[X] &= \int_{-\infty}^\infty (\mu + \sigma y) \cdot \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma}e^{-\frac{1}{2}y^2}\sigma \text{d}y\\ &= \mu \cdot \int_{-\infty}^\infty \frac{1}{\sqrt{2\pi}}e^{-\frac{1}{2}y^2}\text{d}y\\ &+ \frac{\sigma}{\sqrt{2\pi}}\int_{-\infty}^\infty ye^{-\frac{1}{2}y^2}\text{d}y. \end{align} \]

Her kan vi gjenkjenne integranden i det første integralet som \(\varphi(x),\) dvs sannsynlighetstettheten i en standard normalfordeling. Siden vi vet at en av egenskapene til en sannsynlighetstetthet er at integralet over en sannsynlighetstetthet alltid er lik en, får vi at det første integralet må være lik en. For å evaluere det andre integralet kan vi først skrive det som en sum av to integraler og deretter substituere \(z=-y\) i det første av de to integralene vi da får,

\[ \begin{align} \int_{-\infty}^\infty ye^{-\frac{1}{2}y^2}\text{d}y &= \int_{-\infty}^0 ye^{-\frac{1}{2}y^2}\text{d}y + \int_0^\infty ye^{-\frac{1}{2}y^2}\text{d}y\\ &= \int_{\infty}^0 (-z)e^{-\frac{1}{2} (-z)^2}\cdot (-1)\text{d}z\\ &+ \int_0^\infty ye^{-\frac{1}{2}y^2}\text{d}y\\ &= \int_{\infty}^0 ze^{-\frac{1}{2}z^2}\text{d}z + \int_0^\infty ye^{-\frac{1}{2}y^2}\text{d}y\\ &=-\int_0^\infty ze^{-\frac{1}{2}z^2}\text{d}z + \int_0^\infty ye^{-\frac{1}{2}y^2}\text{d}y\\ &= 0, \end{align} \]

der vi i den nest siste overgangen har brukt at vi må bytte fortegn når vi bytter om på integrasjonsgrensene, og den siste overgangen følger av at de to integralene i linja over er like. Setter vi dette inn i uttrykket vi over har for \(\text{E}[X]\) får vi \(\text{E}[X]=\mu,\) som er det vi skulle bevise for forventningsverdien.

For å bevise uttrykket gitt for variansen tar vi utgangspunkt i definisjonen av varians og bruker at vi allerede har vist at \(\text{E}[X]=\mu,\)

\[ \begin{align} \text{Var}[X] &= \text{E}[(X-\mu)^2]\\ &= \int_{-\infty}^\infty (x-\mu)^2 \cdot \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma} e^{-\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2}}\text{d}x. \end{align} \]

Benytter så delvis integrasjon på dette integralet, med \[u(x)=\frac{\sigma}{\sqrt{2\pi}}(x-\mu)~~\text{og}~~v^\prime(x)=\frac{x-\mu}{\sigma^2}e^{-\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2}},\] slik at \[u^\prime(x)=\frac{\sigma}{\sqrt{2\pi}}~~\text{og}~~v(x)=-e^{-\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2}}.\] Dermed får vi

\[ \begin{align} \text{Var}[X] &= \left[ \frac{\sigma}{\sqrt{2\pi}}(x-\mu)\cdot \left(- e^{-\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2}}\right)\right]_{-\infty}^\infty\\ &- \int_{-\infty}^\infty \frac{\sigma}{\sqrt{2\pi}} \cdot \left(- e^{-\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2}}\right)\text{d}x\\ &= 0-0+\sigma^2 \int_{-\infty}^\infty \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma} e^{-\frac{1}{2}\frac{(x-\mu)^2}{\sigma^2}}\text{d}x. \end{align} \]

Integranden i dette integralet kan vi gjennkjenne som sannsynlighetstettheten i en normalfordeling, så siden vi vet at et integral over en sannsynlighetstetthet alltid er lik en, får vi at dette integralet må være lik en. Dermed har vi vist at \(\text{Var}[X]=\sigma^2,\) som er det som skulle bevises.

Kumulativ fordelingsfunksjon

Kumulativ fordelingsfunksjon kan finnes ved å benytte generell sammenheng mellom \(f(x)\) og \(F(x).\) Her får vi

\[ F(x) = \int_{-\infty}^x \frac{1}{\sqrt{2\pi}}\frac{1}{\sigma}e^{-\frac{1}{2}\frac{(t-\mu)^2}{\sigma^2}} \text{d}t. \]

Generelt kan dette integralet dog ikke skrives på noen enkel analytisk form. Når man har behov for å evaluere kumulativ fordelingsfunksjon i en normalfordeling har man to muligheter.

Man kan benytte et dataprogram der evaluering av \(F(x)\) er implementert.
Man kan først bruke at man kan standardisere en normalfordelt variabel til en standard normalfordelt variabel, og deretter benytte en statistisk tabell hvor \(F(x)\) for en standard normalfordeling er tabulert.

Kvantil

\((1-\alpha)\)-kvantilen \(x_\alpha\) til en normalfordeling med forventningsverdi \(\mu\) og varians \(\sigma^2\) kan man i prinsippet finne ved å løse ligningen \(F(x_\alpha)=1-\alpha\) med hensyn på \(x_\alpha.\) Denne ligningen har dog ingen enkel analytisk form, så for å finne en verdi for \(x_\alpha\) har man to muligheter.

Man kan benytte et dataprogram der utregning av kvantiler er implementert.
Man kan først bruke at man kan standardisere en normalfordelt variabel til en standard normalfordelt variabel, og deretter benytte en statistisk tabell hvor kvantiler i en standard normalfordeling er tabulert.

Man bør merke seg at i en standard normalfordeling er det vanlig å betegne \((1-\alpha)\)-kvantilen med \(z_\alpha.\) Siden sannsynlighetstettheten i en standard normalfordeling er symmetrisk omkring \(0\) får man at \[z_{1-\alpha}=-z_\alpha.\]

Sammenheng med andre fordelinger

Det finnes sammenhenger mellom normalfordeling og en del andre fordelinger. Disse sammenhengene diskuteres på følgende temasider:

Lineærkombinasjon av uavhengige normalfordelte variabler
Standardisering av en normalfordelt variabel
Sentralgrenseteoremet
Normalfordeling som tilnærming til binomisk
Kjikvadratfordelingen er definert ved hjelp av standard normalfordelte variabler.
T-fordelingen er definert ved hjelp av en standard normalfordelt variabel.

Relevante lenker

Regneregler:
Videoer:
- Normalfordeling (0:20:43, Mette Langaas)
Eksamensoppgaver:
- TMA4245 Statistikk 2019H [nb] [nn] [en] oppgave 2
  Løsningsforslag: [en]
- TMA4245 Statistikk 2019S [nb] [nn] [en] oppgave 3a
  Løsningsforslag: [nn]
- TMA4245 Statistikk 2019V [nb] [nn] [en] oppgave 6a
  Løsningsforslag: [nn]
- TMA4245 Statistikk 2014S [nb] [nn] oppgave 1c
  Løsningsforslag: [nb]