[통계학] 회귀분석 - 회귀계수(기울기)에 대한 통계적 추론 - MSE, 구간추정, 가설검정, 검정통계량

 여인권 교수님의 KMOOC 강의 <통계학의 이해 2>를 수강하면서 공부한 내용을 정리해보았습니다.

 

---

회귀계수(기울기)에 대한 통계적 추론

 회귀계수 중 기울기에 해당하는 $\beta_1$의 중심축량, 구간추정, 가설검정에 대해 알아보겠습니다.

 

1. 기울기 $\beta_1$에 대한 추론

 $\hat{\beta_1}$은 $\beta_1$의 추정값입니다.

 $\hat{\beta_1} = S_{xY}/S_{xx}$의 통계적 성질은 다음과 같습니다.

 

 

 $\hat{\beta_1}$의 기댓값은 다음과 같이 구할 수 있습니다.

 

 

 $\hat{\beta_1}$의 분산은 다음과 같습니다.

 

 

$\hat{\beta_1}$의 기댓값과 분산을 구했으므로 $\hat{\beta_1}$는 다음과 같이 가정할 수 있습니다.

 

 

 이를 표준화하면 중심축량을 구할 수 있습니다.

 

 

 중심축량은 자유도가 n-2인 t분포를 따릅니다.

2. MSE 계산

 이전 포스팅에서 알아보았던 회귀모델에서의 MSE 계산은 다음과 같이 할 수 있습니다.

 

 

3. 구간추정

 중심축량과 MSE를 구했으므로 구간추정을 할 수 있습니다.

 

 

4. 가설검정

 귀무가설은 회귀계수 $\beta_1$ = 0 인지 아닌지로 확인할 수 있습니다.

 

(1) 가설 설정

 

 

(2) 검정통계량 도출

 

 

(3) 기각역 설정

 

 

5. 예제 문제

 

 

 올림픽 육상 100m 남자 우승기록에서 기울기를 추론해보겠습니다.

 

 MSE를 구하기 위한 통계값은 다음과 같이 구할 수 있습니다.

 

 

 위 통계값을 MSE구하는 식에 대입하면 다음과 같게 됩니다.

 

 

 MSE를 구했으므로 신뢰구간을 구할 수 있습니다.

 

 

 검정통계량은 다음과 같습니다.

 

 

6. 정리