Inferens for regresjonsparametrene

Da vi studerte egenskaper til regresjonsestimatorene fant vi at $$\widehat{\beta}_1 \sim N\left(\beta_1,\frac{\sigma^2}{\sum_{i=1}^n (x_i-\bar{x})^2}\right).$$ Den tilhørende standardiserte variabelen blir dermed $$Z = \frac{\widehat{\beta}_1-\beta_1}{\sqrt{\frac{\sigma^2}{\sum_{i=1}^n (x_i-\bar{x})^2}}} \sim N(0,1).$$ Dersom variansen $\sigma^2$ har en kjent verdi kan man ta utgangspunkt i $Z$ for å utlede konfidensintervall eller konstruere en hypotesetest for $\beta_1$. Mer typisk er det at verdien til $\sigma^2$ også er ukjent og da vil man erstatte $\sigma^2$ i utrykket for $Z$ med den tilhørende forventningsrette estimatoren $$S^2 = \frac{1}{n-2}\sum_{i=1}^n (Y_i - \widehat{\beta}_0-\widehat{\beta}_1x_i)^2.$$ Man vil dermed ta utgangspunkt i $$T = \frac{\widehat{\beta}_1-\beta_1}{\sqrt{\frac{S^2}{\sum_{i=1}^n (x_i-\bar{x})^2}}}$$ som blir T-fordelt med $n-2$ frihetsgrader. For å se at $T$ blir T-fordelt med det spesifiserte antall frihetsgrader må man observere at den kan skrives på formen $$T = \frac{\widehat{\beta}_1-\beta_1}{\sqrt{\frac{S^2}{\sum_{i=1}^n (x_i-\bar{x})^2}}} = \frac{\frac{\widehat{\beta}_1-\beta_1}{\sqrt{\frac{\sigma^2}{\sum_{i=1}^n (x_i-\bar{x})^2}}}}{\sqrt{\frac{\frac{(n-2)S^2}{\sigma^2}}{n-2}}} = \frac{Z}{\sqrt{\frac{V}{n-2}}}.$$ Her er $Z$ som definert over slik at vi har $Z\sim\text{N}(0,1),$ mens $$V=\frac{(n-2)S^2}{\sigma^2}.$$ Da vi studerte egenskaper til regresjonsparametrene fant vi nesten helt nederst på temasiden at $$\frac{(n-2)S^2}{\sigma^2}\sim\chi^2_{n-2},$$ så dermed har vi at $V\sim\chi^2_{n-2}.$ På temasiden hvor vi diskuterte egenskaper til regresjonsparametrene fant vi også at $\widehat{\beta}_1$ og $S^2$ var uavhengige stokastiske variabler. Siden $Z$ kun er en funksjon av $\widehat{\beta}_1,$ mens $V$ kun er en funksjon av $S^2$ får vi da at $Z$ og $V$ også er uavhengige stokastiske variabler. Fra definisjonen av en T-fordeling har vi da at $T\sim t_{n-2},$ dvs $$\frac{\widehat{\beta}_1-\beta_1}{\sqrt{\frac{S^2}{\sum_{i=1}^n (x_i-\bar{x})^2}}} \sim t_{n-2}.$$ Ut fra dette kan man utlede konfidensintervall for $\beta_1$ og konstruere hypotesetester for $\beta_1$ ved å følge enten regneprosedyre for å utlede konfidensintervall eller regneprosedyre for å utlede hypotesetest (TODO: sette inn link her).

For å etablere hvilken størrelse man bør ta utgangspunkt i for å gjøre inferens om $\beta_0$ kan vi gå frem helt tilsvarende som forklart for $\beta_1$ over.

Da vi studerte egenskaper til regresjonsestimatorene fant vi at $$\widehat{\beta}_0 \sim N\left(\beta_0,\frac{\sigma^2\sum_{i=1}^n x_i^2}{n\sum_{i=1}^n (x_i-\bar{x})^2}\right).$$ Den tilhørende standardiserte variabelen blir dermed $$Z = \frac{\widehat{\beta}_0-\beta_0}{\sqrt{\frac{\sigma^2\sum_{i=1}^n x_i^2}{n \sum_{i=1}^n (x_i-\bar{x})^2}}} \sim N(0,1).$$ Dersom variansen $\sigma^2$ har en kjent verdi kan man ta utgangspunkt i $Z$ for å utlede konfidensintervall eller konstruere en hypotesetest for $\beta_0$. Mer typisk er det at verdien til $\sigma^2$ også er ukjent og da vil man erstatte $\sigma^2$ i utrykket for $Z$ med den tilhørende forventningsrette estimatoren $$S^2 = \frac{1}{n-2}\sum_{i=1}^n (Y_i - \widehat{\beta}_0-\widehat{\beta}_1x_i)^2.$$ Man vil dermed ta utgangspunkt i $$T = \frac{\widehat{\beta}_0-\beta_0}{\sqrt{\frac{S^2\sum_{i=1}^n x_i^2}{n\sum_{i=1}^n (x_i-\bar{x})^2}}}$$ som blir T-fordelt med $n-2$ frihetsgrader. For å se at $T$ blir T-fordelt med det spesifiserte antall frihetsgrader må man observere at den kan skrives på formen $$T = \frac{\widehat{\beta}_0-\beta_0}{\sqrt{\frac{S^2\sum_{i=1}^n x_i^2}{n\sum_{i=1}^n (x_i-\bar{x})^2}}} = \frac{\frac{\widehat{\beta}_0-\beta_0}{\sqrt{\frac{\sigma^2\sum_{i=1}^n x_i^2}{n\sum_{i=1}^n (x_i-\bar{x})^2}}}}{\sqrt{\frac{\frac{(n-2)S^2}{\sigma^2}}{n-2}}} = \frac{Z}{\sqrt{\frac{V}{n-2}}}.$$ Her er $Z$ som definert over slik at vi har $Z\sim\text{N}(0,1),$ mens $$V=\frac{(n-2)S^2}{\sigma^2}.$$ Da vi studerte egenskaper til regresjonsparametrene fant vi nesten helt nederst på temasiden at $$\frac{(n-2)S^2}{\sigma^2}\sim\chi^2_{n-2},$$ så dermed har vi at $V\sim\chi^2_{n-2}.$ På temasiden hvor vi diskuterte egenskaper til regresjonsparametrene fant vi også at $\widehat{\beta}_0$ og $S^2$ var uavhengige stokastiske variabler. Siden $Z$ kun er en funksjon av $\widehat{\beta}_0,$ mens $V$ kun er en funksjon av $S^2$ får vi da at $Z$ og $V$ også er uavhengige stokastiske variabler. Fra definisjonen av en T-fordeling har vi da at $T\sim t_{n-2},$ dvs $$\frac{\widehat{\beta}_0-\beta_0}{\sqrt{\frac{S^2\sum_{i=1}^n x_i^2}{n\sum_{i=1}^n (x_i-\bar{x})^2}}} \sim t_{n-2}.$$ Ut fra dette kan man utlede konfidensintervall for $\beta_0$ og konstruere hypotesetester for $\beta_0$ ved å følge enten regneprosedyre for å utlede konfidensintervall eller regneprosedyre for å utlede hypotesetest (TODO: sette inn link her).