Hypergeometrisk fordeling

Anta at man har en urne med røde og blå kuler. Hvis man da trekker ut et på forhånd spesifisert antall kuler, uten tilbakelegging, vil antall røde kuler trukket ut være hypergerometrisk fordelt. Det at man trekker kuler uten tilbakelegging gjør at trekningene blir avhengige, men ved å benytte telleregler fra kombinatorikk er man likevel i stand til å utlede punktsannsynligheten til en hypergeometrisk fordeling.

Hypergeometrisk fordeling

Vi starter med å definere en hypergeometrisk fordeling.

Notasjon

Det finnes ingen etablert notasjon for å spesifisere at en stokastisk variabel \(X\) er hypergeometrisk fordelt med parametre \(N,\) \(k\) og \(n.\) Noen bruker å skrive \(X\sim h(x;N,k,n),\) der \(h(x;N,k,n)\) er punktsannsynligheten til den angjeldende hypergeometriske fordeling.

Punktsannsynlighet

Vi starter med å bestemme hva som er de mulige verdiene til \(X.\) Det viktige her er at antall røde og antall blå kuler man trekker ut må være minimum null og maksimalt det antall kuler man har av den fargen i urna. For rød sin del betyr det at \(x\) er minimum lik null og maksimalt \(k.\) Tilsvarende må antall blå kuler man trekker ut være minimum null og maksimalt \(N-k.\) Dette betyr at \(k-x\) er minimum null og maksimalt \(N-n,\) altså at \(x\) er maksimalt \(k\) og minimum \(n-N+k.\) Setter vi disse kravene sammen får vi at de mulige verdiene blir \(x=\min(0,n-N+k),\) \(\min(0,n-N+k)+1,\) \(\ldots,\min(k,n).\) Videre i beviset forutsetter vi at \(x\) har en av disse verdiene.

For å bevise formelen for punktsannsynligheten velger vi å beskrive utfallet av det stokastiske forsøket ved hvilke kuler vi trekker ut. Vi tar altså ikke hensyn til i hvilken rekkefølge kulene blir trukket ut, kun hvilke kuler som er trukket ut. Vi har da en urnemodell der vi ser på et ikke-ordnet utvalg og trekker kuler uten tilbakelegging. Dermed får vi en uniform sannsynlighetsmodell, slik at sannsynligheten for enhver hendelse er lik antall gunstige utfall delt på antall mulige utfall, \[P(X=x) = \frac{g}{m}.\] Vi finner antall mulige utfall, \(m\), ved å benytte kombinatorikkregelen for ikke-ordnet utvalg, trekning uten tilbakelegging. Vi har \(N\) kuler totalt og skal trekke ut \(n\) kuler slik at \[m = \binom{N}{n}.\] For å bestemme antall gunstige utfall må vi først finne antall måter vi kan trekke ut \(x\) røde kuler fra de \(k\) røde kulene i urna. Vi kan bruke samme kombinatorikkregel som over og får at vi har \[g_R = \binom{k}{x}\] måter å trekke ut riktig antall røde kuler. Tilsvarende får vi at antall måter å trekke ut nøyaktig \(n-x\) blå kuler fra de \(N-k\) blå kulene som er i urna blir \[g_B=\binom{N-k}{n-x}.\] Vi finner da totalt antall gunstige utfall ved å observere at for hver av de \(g_R\) gunstige måtene å trekke ut riktig antall røde kuler har vi \(g_B\) gunstige måter å trekke ut riktig antall blå kuler. Multiplikasjonssetningen gir da at totalt antall gunstige måter å trekke ut kuler på blir \[g = g_R\cdot g_B = \binom{k}{x}\cdot \binom{N-k}{n-x}.\] Dermed får vi \[P(X=x) = \frac{g}{m}=\frac{\binom{k}{x}\cdot \binom{N-k}{n-x}}{\binom{N}{n}},\] som var det som skulle bevises.

Eksempler på punktsannsynlighet

Figur 1 til 3 viser stolpediagram av punktsannsynligheten \(f(x)\) i en hypergeometrisk fordeling med \(N=25,\) \(k=10\) og med \(n\) lik henholdsvis \(5, 10\) og \(15.\)

Figur 1: Punktsannsynlighet \(f(x)\) for en hypergeometrisk fordeling med \(N=25,\) \(n=5\) og \(k=10.\)

Figur 2: Punktsannsynlighet \(f(x)\) for en hypergeometrisk fordeling med \(N=25,\) \(n=10\) og \(k=10.\)

Figur 3: Punktsannsynlighet \(f(x)\) for en hypergeometrisk fordeling med \(N=25,\) \(n=15\) og \(k=10.\)

Forventningsverdi og varians

Det er mulig å finne \(\text{E}[X]\) ved å ta utgangspunkt i definisjonen av forventningsverdi, dvs ved å ta utgangspunkt i \[\text{E}[X] = \sum_{x=0}^n x \cdot \frac{\binom{k}{x}\binom{N-k}{n-x}}{\binom{N}{n}},\] men regningen blir enklere hvis vi i stedet starter med å tenke oss at vi har nummerert de røde kulene fra \(1\) til \(k\) og definerer \[Z_i = \left\{\begin{array}{ll} 1 & \text{hvis rød kule nummer \(i\) blir trukket ut},\\ 0 & \text{ellers.}\end{array}\right.\] for \(i=1,2,\ldots,k.\) Da har vi åpenbart at \[X = \sum_{i=1}^k Z_i.\] Vi kan dermed finne forventningsverdi og varians til \(X\) ved først å regne ut \(\text{E}[Z_i]\) og \(\text{Var}[Z_i]\) og så etterpå bruke regneregler for forventningsverdi og varians til lineære funksjoner.

Før vi kan finne forventningsverdien til \(Z_i\) må vi finne \(P(Z_i=1)\). Vi velger da å beskrive utfallet av det stokastiske forsøket som definere hypergeometrisk fordeling ved hvilke kuler vi trekker ut. Vi tar altså ikke hensyn til i hvilken rekkefølge kulene blir trukket ut, kun hvilke kuler som er trukket ut. Vi har da en urnemodell der vi ser på et ikke-ordnet utvalg og trekker kuler uten tilbakelegging. Dermed får vi en uniform sannsynlighetsmodell, slik at sannsynligheten for enhver hendelse er lik antall gunstige utfall delt på antall mulige utfall, \[P(Z_i=1) = \frac{g}{m}.\] Vi finner antall mulige utfall, \(m\), ved å benytte kombinatorikkregelen for ikke-ordnet utvalg, trekning uten tilbakelegging. Vi har \(N\) kuler totalt og skal trekke ut \(n\) kuler slik at \[m = \binom{N}{n}.\] For å få et gunstig utfall må en av trekningene gi rød kule nummer \(i,\) mens de øvrige \(n-1\) trekningene kan gi hvilken som helst av de resterende \(N-1\) kulene i urna, noe som ifølge samme kombinatorikkregel kan gjøres på \[g=\binom{N-1}{n-1}\] mulige måter. Dermed får vi at

\[ \begin{align} P(Z_i=1) &= \frac{g}{m} = \frac{\binom{N-1}{n-1}}{\binom{N}{n}}\\ &= \frac{\frac{(N-1)!}{(n-1)! ((N-1)-(n-1))!}}{\frac{N!}{n! (N-n)!}}\\ &= \frac{n!}{(n-1)!} \cdot \frac{(N-1)!}{N!}\\ &= \frac{n}{N}. \end{align} \]

Ifølge definisjonen av forventningsverdi får vi dermed at forventningsverdien til \(Z_i\) blir

\[ \begin{align} \text{E}[Z_i] &= \sum_{z=0}^1 z \cdot P(Z_i=z)\\ &= 0\cdot P(Z_i=0) + 1\cdot P(Z_i=1)\\ &= P(Z_i=1) = \frac{n}{N}. \end{align} \]

Ved å bruke regneregler for forventningsverdi til en lineær funksjon får vi dermed

\[ \begin{align} \text{E}[X] &= \text{E}\left[ \sum_{i=1}^k Z_i\right]\\ &= \sum_{i=1}^k \text{E}[Z_i]\\ &= \sum_{i=1}^k \frac{n}{N} = \frac{nk}{N}, \end{align} \]

som var det som skal bevises for forventningsverdi.

For å finne variansen til \(X\) starter vi tilsvarende som for forventningsverdien, ved å bestemme \(\text{Var}(Z_i).\) Vi har en generell regneregel som her gir at \[\text{Var}[Z_i]=\text{E}[Z^2_i]−\text{E}[Z_i]^2.\] Ved å benytte regneregelen for en funksjon av en stokastisk variabel og definisjonen av \(Z_i\) får vi

\[ \begin{align} \text{E}[Z_i^2] &= \sum_{z=0}^1 z^2 P(Z_i=z)\\ &= 0^2 \cdot P(Z_i=0) + 1^2\cdot P(Z_i=1)\\ &= P(Z_i=1) = \frac{n}{N}, \end{align} \]

og dermed at

\[ \begin{align} \text{Var}[Z_i] &= \text{E}[Z_i^2] - \text{E}[Z_i]^2\\ &= \frac{n}{N} - \left(\frac{n}{N}\right)^2\\ &= \frac{n}{N}\cdot \frac{N-n}{N}. \end{align} \]

Siden trekningene som gir en hypergeometrisk fordeling skjer uten tilbakelegging blir trekningene ikke uavhengige, og dermed blir heller ikke \(Z_i\)'ene uavhengige. Vi trenger derfor å bestemme kovariansen mellom de forskjellige \(Z_i\)'ene. Vi kan da bruke en generell regneregel for kovarianser som her, for \(i\neq j\) gir at \[\text{Cov}[Z_i,Z_j] = \text{E}[Z_i\cdot Z_j] - \text{E}[Z_i]\cdot \text{E}[Z_j].\] Ved å benytte regneregelen for forventningsverdi til en funksjon av flere stokastiske variabler får vi

\[ \begin{align} \text{E}[Z_i\cdot Z_j] &= \sum_{z_i=0}^1\sum_{z_j=0}^1 z_i z_j P(Z_i=z_i,Z_j=z_j)\\ &= 0\cdot 0\cdot P(Z_i=0,Z_j=0) \\ &+ 0\cdot 1\cdot P(Z_i=1,Z_j=0)\\ &+1\cdot 0\cdot P(Z_i=0,Z_j=1)\\ &=1\cdot 1\cdot P(Z_i=1,Z_j=1)\\ &= P(Z_i=1,Z_j=1)\\ &= P(Z_i=1) \cdot P(Z_j=1|Z_i=1)\\ &= \frac{n}{N}\cdot \frac{n-1}{N-1}, \end{align} \]

der vi har benyttet multiplikasjonssetningen, samt at sannsynligheten \(P(Z_j=1|Z_i=1)\) er gitt tilsvarende som sannsynligheten \(P(Z_i=1)\) bortsett fra at man har igjen en færre kuler i urna og en mindre trekning når man allerede vet resultatet av trekning nummer \(i.\) Dermed får vi at kovariansen blir

\[ \begin{align} \text{Cov}[Z_i,Z_j] &= \text{E}[Z_i\cdot Z_j] - \text{E}[Z_i]\cdot \text{E}[Z_j]\\ &= \frac{n}{N}\cdot \frac{n-1}{N-1} - \frac{n}{N}\cdot \frac{n}{N}\\ &=\frac{n}{(N-1)N^2}\left( N(n-1) - n(N-1)\right)\\ &= \frac{n}{(N-1)N^2} (Nn-N-nN+n)\\ &= -\frac{n(N-n)}{(N-1)N^2}. \end{align} \]

Da kan vi bruke regneregler for varians til en sum av stokastiske variabler til å finne variansen til \(X,\)

\[ \begin{align} \text{Var}[X] &= \text{Var}\left[ \sum_{i=1}^k Z_i\right]\\ &= \sum_{i=1}^k \text{Var}[Z_i] + 2\sum_{i=1}^n\sum_{j=1}^{i-1} \text{Cov}[Z_i,Z_j]\\ &=\sum_{i=1}^k \frac{n}{N}\cdot \frac{N-n}{N} \\ &+ \sum_{i=1}^n\sum_{j=1}^{i-1} \left(- \frac{n(N-n)}{(N-1)N^2}\right)\\ &= \frac{kn}{N}\cdot \frac{N-n}{N}\\ &- 2\cdot \frac{k(k-1)}{2}\cdot \frac{n(N-n)}{(N-1)N^2}\\ &= \frac{k n (N-n)}{N(N-1)}\left( \frac{N-1}{N}-\frac{k-1}{N} \right)\\ &= \frac{k n (N-n)}{N(N-1)}(\frac{1}{N}(N-1-k+1))\\ &= \frac{k n (N-n)}{N(N-1)}(1-\frac{k}{N}), \end{align} \]

som er formelen vi skulle bevise.

Kumulativ fordelingsfunksjon

Kumulativ fordelingsfunksjon kan finnes ved å benytte generell sammenheng mellom \(f(x)\) og \(F(x).\) For de mulige verdiene for \(x\) får vi her

\[ F(x) = \sum_{t=\max(0,n-N+k)}^x \frac{\binom{k}{t}\binom{N-k}{n-t}}{\binom{N}{n}} \]

Generelt kan denne summen dog ikke skrives på noen enkel analytisk form. Når man har behov for å evaluere kumulativ fordelingsfunksjon i en hypergeometrisk fordeling har man tre muligheter.

Man kan numerisk regne ut summen over. Dette er mest aktuelt dersom \(x\) er svært liten.
Man kan benytte et dataprogram der evaluering av \(F(x)\) er implementert.
Man kan benytte en statistisk tabell hvor \(F(x)\) er tabulert for en del verdier av \(N\), \(k\), \(n\) og \(x.\)

Sammenheng med andre fordelinger

Det finnes en sammenheng mellom hypergeometrisk fordeling og binomisk fordeling. Denne sammenhengen diskuteres på følgende temaside:

Binomisk fordeling som tilnærming til hypergeometrisk fordeling.