DATA SCIENCE : 27
DATA SCIENCE eISSN
네, 표본크기의 제곱근과 관계있습니다.
$$\sigma_{\bar{X}}=\dfrac{\sigma_{X}}{\sqrt{n}}$$
여기서, $\dfrac{1}{\sqrt{n}}$은 상쇄효과
$n$은 표본크기
모집단의 분산 $\sigma_{X}^2$과 표본평균의 분산 $\sigma_{\bar{X}}^2$의 비는 표본크기 $n$입니다.
$$\sigma_{\bar{X}}^2=\dfrac{\sigma_{X}^2}{n}$$
모집단에서 랜덤추출하는 표본집단의 변동성은 개체의 변동성에 기인합니다.
표본크기가 커질수록 개체간 변동성은 서로 상쇄되기 때문에 표본집단의 변동성은 줄어듭니다.
모집단의 분산은 개체의 변동성을 수치화한 것입니다. 표본평균의 분산은 랜덤추출하는 표본집단의 변동성을 수치화한 것입니다.
변동은 변동성으로 수치화합니다. 변동성은 실현값의 범위와 빈도를 표현하는 분포로 표현할 수 있습니다. 그리고 변동성을 표현하는 분포는 확률분포의 분산, 표준편차, 표준오차와 분포의 범위 등이 있습니다.
개체의 변동성은 모집단의 분산으로 표본집단의 변동성은 표본평균의 분산으로 수치화됩니다.
표본크기가 커질수록 개체의 분산의 영향은 표본집단의 변동성에 반비례하게 작용하며 3가지 개념은 다음식의 관계를 가집니다.
$$\sigma_{\bar{X}}^2=\dfrac{\sigma_{X}^2}{n}$$
여기서, $\sigma_{\bar{X}}^2$는 표본집단의 분산
$\sigma_{X}^2$는 개체의 분산
$n$은 표본집단의 크기
집단의 크기가 커질수록 그에 따라 집단내의 개체의 변동은 서로 더 상쇄됩니다. 따라서 표본크기가 커질수록 표본집단의 변동성을 나타내는 표본평균의 변동성은 줄어듭니다.
개체의 변동성(모집단의 분산)
$$\operatorname{Var}(X) = \sigma^2$$
변동성의 상쇄효과는 “남는 변동성”입니다. 변동성을 분산으로 표현할 때 상쇄효과는 다음과 같습니다.
$$\text{상쇄효과} \propto \frac{1}{n}$$
변동성을 분산으로 표현할 때 분산의 상쇄의 힘은 다음식으로 표현합니다.
$$\text{상쇄의 힘}\propto {n}$$
따라서, 표본집단의 변동성 (표본평균의 분산)과 개체의 변동성은 다음 관계식으로 표현할 수 있습니다.
$$\operatorname{Var}(\bar{X}) = \frac{1}{n}$$
상쇄를 식으로 표현하면 다음과 같습니다.
$$\operatorname{Var}(\bar{X})
= \frac{\operatorname{Var}(X)}{n}
= \frac{\sigma^2}{n}, \quad n \uparrow \;\;\Rightarrow\;\; \operatorname{Var}(\bar{X}) \downarrow$$
표본평균의 분산공식 (Variance of the Sample Mean)은 상쇄효과를 표현합니다. 이를 샘플링 분산공식 (Sampling Variance Formula), 표본평균의 정밀도 관계 (Precision Relation of the Sample Mean)라고도 부릅니다.
표본평균의 추정량은 다음과 같습니다.
$$\bar{X} = \frac{1}{n}\sum_{i=1}^n X_i$$
표본평균의 추정량을 분산공식을 사용하여 전개하면 표본평균의 분산공식을 유도할 수 있습니다.
$$\begin{align*}
\operatorname{Var}(\bar{X})
&= \operatorname{Var}\!\left(\frac{1}{n}\sum_{i=1}^n X_i \right) \\[6pt]
&= \frac{1}{n^2}\operatorname{Var}\!\left(\sum_{i=1}^n X_i\right) \\[6pt]
&= \frac{1}{n^2}\sum_{i=1}^n \operatorname{Var}(X_i) \quad (\text{독립동일분포,independent and identically distributed, i.i.d. }) \\[6pt]
&= \frac{1}{n^2}\cdot n\sigma^2 \\[6pt]
&= \frac{\sigma^2}{n}
\end{align*}$$
표본평균의 표준오차 공식 (Standard Error of the Mean) 유도: 표준편차(SD)와 표준오차(SE)의 관계식
모집단 표준편차는 다음식으로 표현할 수 있습니다.
$$SE(\bar{X}) = \sqrt{\operatorname{Var}(\bar{X})}
= \sqrt{\frac{\sigma^2}{n}}
= \frac{\sigma}{\sqrt{n}}$$
모집단의 표준편차 $\sigma$는 개체의 변동성을 나타내고, 표본평균의 표준오차 $SE(\bar{X})$는 표본크기 $n$이 커질수록 $\tfrac{1}{\sqrt{n}}$에 비례해 줄어듭니다.
표본크기를 고정하고 표본추출 횟수를 늘리면서 각 원소에서의 평균과표준편차와 분산을 수렴시켜서 표본의 표본크기에 따른 상쇄를 직관할 수 있습니다.
Fig. 1. 표본의 표본추출횟수에 따른 원소별 평균
Fig. 2. 표본의 표본추출횟수에 따른 원소별 표준편차
Fig. 3. 표본의 표본추출횟수에 따른 원소별 분산