통계 - DOF(자유도)

통계 표본에서 자주 다루는 용어인 DOF(Degrees Of Freedom, 자유도)에 대해 정리합니다.

 

---

DOF(Degrees Of Freedom)

Definition

통계적 추정을 할 때 표본자료 중 모집단에 대한 정보를 주는 독립적인 자료의 수를 말함.

 

크기가 n인 표본의 관측값$(x_1,x_2,...,x_n)$의 자유도는 n-1이다.

 

표본 분산 $S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2$ 에 대해, $\bar{X}=\frac{1}{n}\sum _{i=1}^n{X}_i$ 임.

 

여기서 $\bar{X}$는 모집단의 평균μ의 추정치이기 때문에 자유도는 1 적은 n-1이 됨.

 

 

$E[S^2]=E[\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2]$

 

$=\frac{1}{n-1}E[\sum _{i=1}^n(X_i-\bar{X}{)}^2]$

 

$=\frac{1}{n-1}E[\sum _{i=1}^n((X_i-\mu )+(\mu -\bar{X}){)}^2]$

 

$=\frac{1}{n-1}E[\sum _{i=1}^n((X_i-\mu {)}^2+2(X_i-\mu )(\mu -\bar{X})+(\mu -\bar{X}{)}^2)]$

 

$=\frac{1}{n-1}E[\sum _{i=1}^n(X_i-\mu {)}^2+\sum _{i=1}^{n}2(X_i-\mu )(\mu -\bar{X})+\sum _{i=1}^n(\mu -\bar{X}{)}^2]$

 

$=\frac{1}{n-1}E[\sum _{i=1}^n(X_i-\mu {)}^2+2(\bar{X}-\mu )n(\mu -\bar{X})+n(\mu -\bar{X}{)}^2]$

 

$=\frac{1}{n-1}E[\sum _{i=1}^n(X_i-\mu {)}^2-n(\bar{X}-\mu {)}^2]$

 

이 때,

 

$E[(X_i-\mu {)}^2]={\sigma }^2$

 

$E[(\bar{X}-\mu {)}^2]=V[\bar{X}]=\frac{{\sigma }^2}{n}$

 

자 이제 다시 정리하면

 

$\frac{1}{n-1}E[\sum _{i=1}^n(X_i-\mu {)}^2-n(\bar{X}-\mu {)}^2]=\frac{1}{n-1}\sum _{i=1}^{n}E[(X_i-\mu {)}^2]-n(E[(\bar{X}-\mu {)}^2])$

$=\frac{1}{n-1}(n{\sigma }^2-n\frac{{\sigma }^2}{n})={\sigma }^2$

 

따라서 표본분산의 기댓값이 모분산이라고 할 수 있음, 그래서 n-1을 분모에 사용.

 

$E(S^2)={\sigma }^2$

 

$S^2=\frac{1}{n-1}\sum _{i=1}^n(X_i-\bar{X}{)}^2$

 

 

---

역학에서의 DOF

Definition

어떤 물체의 상태를 표시할 수 있는 최소한의 독립된 변수의 수를 말함.

 

Mobility라고도 함.

 

---

Reference

ko.wikipedia.org/wiki/%EC%9E%90%EC%9C%A0%EB%8F%84_(%ED%86%B5%EA%B3%84%ED%95%99)

ko.wikipedia.org/wiki/%EC%9E%90%EC%9C%A0%EB%8F%84_(%EC%97%AD%ED%95%99)

angeloyeo.github.io/2020/03/23/sample_variance.html