두 가지 공식, 작지만 중요한 하나의 차이
두 표준편차 공식은 동일하게 시작합니다: 데이터의 평균을 구하고, 각 값에서 평균을 뺀 뒤, 각 편차를 제곱하여 모두 더합니다. 두 공식이 갈라지는 지점은 마지막 나눗셈 단계입니다. 그리스 문자 시그마(σ)로 표기하는 모표준편차는 이 편차 제곱의 합을 전체 데이터 개수인 n으로 나눈 뒤 제곱근을 취합니다. s로 표기하는 표본표준편차는 같은 합을 n 대신 n-1로 나눈 뒤 제곱근을 취하는데, 이 변경을 베셀 보정(Bessel's correction)이라고 합니다.
n이 1보다 클 때 n-1은 항상 n보다 작은 나눗수이므로, 표본표준편차는 동일한 숫자로 계산한 모표준편차보다 항상 약간 더 큽니다. 이 두 공식은 같은 질문에 대한 경쟁 관계의 방법이 아니라, 같은 데이터에 대해 서로 다른 두 질문에 답하는 것이며, 잘못된 것을 선택하면 실제로 묻고자 했던 질문에 대해 체계적으로 편향된 답을 얻게 됩니다.
예제 풀이: 같은 여덟 개의 숫자, 두 개의 답
데이터 집합 2, 4, 4, 4, 5, 5, 7, 9 (n = 8)를 살펴봅시다. 1단계: 평균은 (2 + 4 + 4 + 4 + 5 + 5 + 7 + 9) / 8 = 40 / 8 = 5입니다. 2단계: 평균으로부터의 편차는 -3, -1, -1, -1, 0, 0, 2, 4이며, 각각을 제곱하면 9, 1, 1, 1, 0, 0, 4, 16이 되고 이를 모두 더하면 32입니다. 이 편차 제곱의 합 하나에서 두 공식은 마지막 나눗셈 단계에서만 갈라집니다.
모표준편차: 32를 n = 8로 나누면 모분산은 4이고, 4의 제곱근은 정확히 2입니다. 표본표준편차: 같은 32를 n-1 = 7로 나누면 표본분산은 32 / 7 = 4.571429(소수점 여섯 자리 반올림)이고, 4.571429의 제곱근은 약 2.13809입니다. 아래 표는 같은 합에서 시작한 두 계산을 나란히 정리한 것입니다.
| 단계 | 모집단 방식 (n으로 나눔) | 표본 방식 (n-1로 나눔) |
|---|---|---|
| 편차 제곱의 합 | 32 | 32 |
| 나눗수 | n = 8 | n - 1 = 7 |
| 분산 | 32 / 8 = 4 | 32 / 7 = 4.571429 |
| 표준편차 | sqrt(4) = 2 | sqrt(4.571429) = 2.13809 |
왜 n-1로 나눌까? 베셀 보정 설명
산포를 측정하는 계산 안에서 사용되는 표본평균은 그 산포를 측정하려는 바로 그 데이터로부터 계산되며, 수학적으로 해당 표본에 대해 편차 제곱의 합을 최소화하는 값이 되도록 보장됩니다. 이는 표본평균을 기준으로 측정한 편차 제곱이 실제의, 알려지지 않은 모평균을 기준으로 측정했을 편차 제곱보다 평균적으로 약간 작다는 것을 의미합니다 -- 따라서 표본으로 작업할 때 n으로만 나누면 모분산을 체계적으로 과소평가하게 됩니다.
n 대신 n-1로 나누면 이러한 하향 편향을 평균적으로 정확히 보정할 만큼 결과가 커지며, 이를 통해 표본분산은 반복 표본추출에 걸쳐 모분산의 불편추정량이 됩니다. 이 보정은 19세기 천문학자이자 수학자인 프리드리히 베셀(Friedrich Bessel)의 이름을 따 베셀 보정이라고 부릅니다. 그 효과는 표본 크기가 작을 때 가장 크게 나타나며 -- n = 8인 경우 나눗수 8과 7의 차이는 12.5%입니다 -- n이 수백, 수천으로 커질수록 n과 n-1이 비례적으로 수렴하면서 그 차이는 무시할 수 있는 수준으로 줄어듭니다.
모집단인가, 표본인가?
모표준편차(n으로 나누는 방식)는 데이터 집합이 관심 대상 전체 집단이며 그 이상으로 일반화할 의도가 전혀 없을 때만 사용합니다 -- 예를 들어 특정 스포츠팀에 현재 소속된 모든 선수의 나이, 또는 특정 학급의 모든 학생의 시험 점수처럼, 질문이 오직 그 팀이나 그 학급에만 한정되고 그 이상을 다루지 않는 경우입니다.
표본표준편차(n-1로 나누는 방식)는 데이터가 더 큰 모집단으로부터 추출된, 또는 그 모집단을 대표하도록 의도된 부분집합이고 그 모집단에 대한 결론을 내리고자 할 때 사용합니다 -- 예를 들어 전체 고객의 만족도를 추정하기 위한 500명 고객 설문조사, 더 넓은 환자 집단에서의 효과를 추정하기 위한 임상시험 참가자들, 또는 전체 생산 라인의 특성을 파악하기 위한 품질관리 측정값의 배치 등이 있습니다. 이는 응용통계에서 훨씬 더 흔한 상황이며, 그래서 대부분의 통계 소프트웨어가 별도의 지정이 없으면 표본(n-1) 공식을 기본값으로 사용하는 이유이기도 합니다.
이 선택이 실제로 얼마나 중요할까?
표본 크기가 매우 작을 때는 두 공식 사이의 차이가 비례적으로 커서 잘못 선택하면 신뢰구간과 z점수처럼 표준편차 위에 직접 구축되는 후속 결과를 의미 있게 왜곡할 수 있습니다. 위 n = 8 예제에서 표본 값(2.13809)은 모집단 값(2)보다 약 6.9% 크며, 이는 신뢰구간의 폭을 비슷한 정도로 바꿀 만큼 큰 차이입니다.
표본 크기가 커질수록 n과 n-1은 비례적으로 더 가까워지고 두 표준편차는 수렴합니다: 표본 크기가 1,000이면 1,000 대신 999로 나눠도 결과는 약 0.05%만 달라집니다. 대규모 표본에서는 이 선택이 실질적인 결론을 바꾸는 경우가 거의 없지만, 표준적인 통계 관행과의 일관성을 위해서, 그리고 차이가 가장 크게 나타나는 소규모 표본 상황이야말로 정확히 해야 할 때이기 때문에 올바른 관례를 계속 적용해야 합니다.
자주 묻는 질문
표본표준편차와 모표준편차의 차이는 무엇인가요?
모표준편차는 평균으로부터의 편차 제곱의 합을 n(값의 개수)으로 나누며, 데이터 집합이 관심 대상 모집단 전체일 때 맞습니다. 표본표준편차는 같은 합을 n-1로 나누며, 데이터가 더 큰 모집단을 추정하기 위한 표본일 때 맞습니다. 동일한 데이터에 대해 표본 값은 더 작은 수로 나누기 때문에 항상 모집단 값보다 약간 더 큽니다.
표본에서는 왜 n-1로 나누나요?
표본평균은 산포를 측정하는 데 사용되는 바로 그 데이터로부터 계산되므로, 수학적으로 그 표본에 대해 편차 제곱의 합을 최소화하는 값이 되어, 실제 모평균을 기준으로 한 편차보다 체계적으로 약간 작은 편차를 만들어냅니다. n 대신 n-1로 나누는 것 -- 베셀 보정으로 알려진 보정 -- 은 이를 보완하여 표본분산을 모분산의 불편추정량으로 만듭니다.
설문조사나 실험에는 어느 것을 사용해야 하나요?
데이터가 더 큰 모집단을 대표하기 위한 부분집합일 때는 언제나 표본표준편차(n-1)를 사용하십시오 -- 이는 대다수의 설문조사, 실험, 품질관리 표본에 해당합니다. 모표준편차(n)는 데이터 집합이 그 이상으로 일반화할 의도가 전혀 없는, 연구 대상인 완전한 집단 그 자체일 때만 사용하십시오.
실제로 두 답은 얼마나 다른가요?
예제(2, 4, 4, 4, 5, 5, 7, 9; n = 8)에서 모표준편차는 정확히 2이고 표본표준편차는 약 2.13809로, 차이는 약 6.9%입니다. 표본 크기가 커질수록 이 차이는 줄어듭니다: n = 1,000이면 1,000 대신 999로 나눠도 결과는 약 0.05%만 달라져, 대규모 표본에서는 이 선택의 영향이 훨씬 작아집니다.
n-1 보정은 평균에도 영향을 미치나요?
아니요. 평균은 데이터가 표본이든 모집단이든 관계없이 항상 값의 합을 개수 n으로 나눈 단순한 값입니다. 베셀 보정은 표준편차와 분산 계산에만 적용되며 평균 자체에는 적용되지 않습니다.
참고 자료
- National Institute of Standards and Technology (NIST). NIST/SEMATECH e-Handbook of Statistical Methods, Section 1.3.5.6: Measures of Scale. nist.gov.
- Moore DS, McCabe GP, Craig BA. Introduction to the Practice of Statistics. W. H. Freeman (sample vs population standard deviation).
- Weisstein, Eric W. "Standard Deviation" and "Bessel's Correction." MathWorld — A Wolfram Web Resource. mathworld.wolfram.com.