표본추출과 표본오차

핵심 요약

표본추출의 목표는 단순히 적은 수를 고르는 것이 아니라 목표모집단에 대한 타당한 추론 근거를 만드는 것이다. 목표모집단, 조사모집단, 표본틀, 추출단위, 관측단위, 분석단위가 다를 수 있으므로 조사 기준일과 적용 범위를 먼저 정한다.

확률표본추출에서는 각 단위의 포함확률을 알거나 설계로 계산할 수 있다. 단순무작위·계통·층화·집락 추출은 비용과 분산 구조가 다르며, 불균등 추출은 설계가중치와 설계에 맞는 분산 추정이 필요하다.

표본오차는 확률표본을 다시 뽑을 때 추정량이 달라지는 변동이다. 표본 수가 커지면 보통 줄지만, 표본틀 누락·자발적 참여·무응답·질문·측정 오류 같은 비표본오차는 자동으로 사라지지 않는다. 응답자 수보다 포함·선택·응답 과정이 대표성을 결정한다.

학습 목표

• 목표모집단·조사모집단·표본틀·추출·관측·분석단위를 구분한다.
• 포함확률과 설계가중치의 관계를 계산한다.
• 단순무작위·계통·층화·집락·다단계 추출을 구분한다.
• 층별 비례배분·최적배분과 집락 설계효과의 방향을 설명한다.
• 유한모집단수정, 평균·비율의 표준오차와 오차한계를 계산한다.
• 표본크기·설계효과·예상 응답률을 반영한 조사 규모를 판정한다.
• 표본오차와 포함·선택·무응답·측정·처리 오류를 구분한다.

1. 표본추출 설계의 구성요소

전국 성인의 소비를 조사하면서 온라인 패널 명부만 사용하면 인터넷 접근이 어려운 성인이 조사모집단에서 누락될 수 있다. 응답자가 많아도 이 포함오류는 남는다. 가구를 추출해 가구원에게 조사하면 추출단위와 관측단위가 다르며 가구 크기에 따라 개인의 포함확률도 달라질 수 있다.

2. 포함확률과 설계가중치

단위 $i$가 최종 표본에 포함될 확률을 $\pi_i$라 하면 기본 설계가중치는 포함확률의 역수다.

크기 $N$인 모집단에서 복원 없이 $n$개를 단순무작위추출하면 각 단위의 포함확률과 기본가중치는 다음과 같다.

$N=1{,}000$, $n=100$이면 $\pi_i=0.1$, $d_i=10$이다. 한 응답 단위가 설계상 모집단 약 10단위를 대표한다는 뜻이다. 가중치 합은 실제 모집단 크기·무응답 조정·보정 방식에 따라 달라질 수 있으므로 정의를 기록한다.

불균등 확률표본에서 Horvitz-Thompson 총계 추정량과 정규화 가중평균의 한 형태는 다음과 같다.

정확한 포함확률 아래 HT 총계는 설계 기반 불편성을 가질 수 있다. 정규화 가중평균은 비율형 추정량이므로 같은 의미의 불편성을 자동 보장하지 않지만 실무에서 안정적 평균 추정에 사용된다. 가중치만 적용하고 단순무작위 표준오차를 쓰면 분산이 틀릴 수 있으므로 층·집락·가중치를 반영한 조사설계 분석을 사용한다.

3. 확률표본추출 방법

3.1 단순무작위추출

고정 크기 $n$의 모든 가능한 표본이 같은 확률로 선택되도록 복원 없이 추출하는 설계가 대표적이다. 각 단위의 포함확률은 같지만 완전하고 중복 없는 표본틀이 필요하며, 지역적으로 흩어진 대상은 조사비용이 클 수 있다. 난수 생성 방법과 시드를 기록해 재현성을 확보한다.

3.2 계통추출

모집단 목록 크기 $N$, 표본 수 $n$에서 $N/n$이 정수라면 간격 $k$를 다음처럼 정하고 1부터 $k$ 사이의 무작위 시작점 뒤로 매 $k$번째 단위를 선택한다.

$N=1{,}000$, $n=100$이면 $k=10$이다. 시작점을 고정하면 확률추출이 아니며, 목록에 간격 10과 관련된 주기성이 있으면 특정 유형이 과대·과소 포함될 수 있다. $N/n$이 정수가 아니면 분수 간격·순환 계통 등 구체적 알고리즘을 정하고 실제 포함확률을 확인한다. 목록 정렬은 암묵적 층화 효과를 줄 수도 있지만 편향된 주기성을 만들 수도 있다.

3.3 층화추출

모집단을 서로 겹치지 않고 전체를 덮는 층으로 나눈 뒤 각 층에서 독립적으로 표본을 뽑는다. 층 내부가 비교적 동질이고 층 사이가 다르면 정밀도가 높아질 수 있으며, 중요한 소집단을 의도적으로 과대표집할 수 있다.

층 $h$의 모집단 크기 $N_h$, 표준편차 $S_h$, 전체 표본 수 $n$일 때 비례배분과 비용이 같다는 가정의 Neyman 배분은 다음과 같다.

비례배분은 층별 추출률이 같아 기본가중치도 같아진다. Neyman 배분은 크고 변동이 큰 층에 더 많은 표본을 배분해 주어진 표본 수에서 평균 추정 분산을 낮추려는 방식이다. 층별 조사비용이 다르면 비용까지 반영한 배분이 필요하다.

예를 들어 한 층의 모집단이 4,000개이고 그 층에서 200개를 뽑았다면 포함확률은 $200/4{,}000=0.05$, 기본가중치는 20이다. 소수 층을 과대표집했으면 가중치 없이 전체 비율을 계산하지 않는다.

3.4 집락·다단계 추출

학교·사업장·지역 같은 자연 집단을 1차로 선택하고, 선택된 집락의 모든 단위를 조사하거나 2차로 일부를 다시 뽑는다. 비용과 표본틀 구축 부담을 줄이지만 같은 집락 안의 단위가 비슷하면 독립 정보량이 감소한다.

다단계 포함확률은 조건부 단계 확률의 곱으로 계산한다. 예를 들어 학교 포함확률이 0.2이고 선택 학교 안 학생의 조건부 포함확률이 0.1이면 학생의 최종 포함확률은 0.02, 기본가중치는 50이다. 각 단계의 추출법, PSU·SSU 식별자와 유한모집단 크기를 보존한다.

층화와 집락은 모두 집단을 사용하지만 반대 방향이다. 층화는 모든 층에서 표본을 뽑고 층 안을 동질적으로 만들려 하며, 집락은 일부 집락만 뽑고 선택 집락 안에서 조사한다. 집락은 조사비용을 줄이는 대신 집락 내 유사성이 크면 정밀도가 낮아질 수 있다.

4. 비확률표본과 적용 범위

편의표본은 접근하기 쉬운 대상, 판단표본은 조사자가 선택한 대상, 할당표본은 범주별 목표 수, 눈덩이표본은 기존 참여자의 연결망으로 대상을 모집한다. 빠르고 희귀·접근 곤란 집단의 탐색에 유용할 수 있지만 각 단위의 포함확률을 설계로 알기 어렵다.

비확률표본에서 계산한 $s/\sqrt n$은 응답 자료 내부의 변동만 반영할 뿐 목표모집단에 대한 선택 편향을 측정하지 않는다. 사후 가중·성향 보정은 관측된 보조변수에 의존하며 누락된 집단이나 관측되지 않은 선택 요인을 자동 복원하지 않는다. 결론은 조사 참여자와 조정 가정이 지지하는 범위로 제한한다.

5. 표본오차·표준오차·유한모집단수정

5.1 단순무작위추출의 평균 표준오차

유한모집단에서 복원 없이 단순무작위추출할 때 모집단 표준편차 $\sigma$를 사용하는 평균의 표준오차는 다음과 같이 쓸 수 있다.

뒤의 제곱근은 유한모집단수정(FPC)이다. 표본추출률 $n/N$이 매우 작으면 1에 가까워 생략 영향이 작지만, 모집단의 큰 비율을 복원 없이 뽑으면 표준오차를 줄인다. 복원추출이나 무한모집단 모형에는 같은 FPC를 적용하지 않는다.

$N=1{,}000$, $n=100$, $\sigma=20$이면 20/√100 × √(900/999) ≈ 1.8983이다. FPC를 무시하면 2이므로 약간 더 크다. $n=N$인 전수조사에서는 이 식의 표본오차가 0이지만 측정·처리·무응답 같은 비표본오차가 0이라는 뜻은 아니다.

모표준편차를 모르면 표본표준편차와 적절한 자유도·설계 기반 분산 추정을 사용한다. 층화·집락·가중 표본에는 위 SRS 식을 그대로 적용하지 않는다.

5.2 비율의 표준오차와 오차한계

단순무작위·큰 표본 근사에서 비율 추정치 $\hat p$의 표준오차와 양측 정규근사 오차한계는 다음과 같다.

복원 없는 유한모집단에서는 상황에 맞는 FPC를 추가한다. $n=400$, $\hat p=0.5$이면 FPC를 무시한 $SE=0.025$이고 95% 정규근사 오차한계는 $1.96\times0.025=0.049$, 약 4.9%p다. $\hat p$가 0 또는 1이거나 표본이 작으면 Wald 정규근사가 부적절할 수 있어 Wilson·정확 구간 등을 검토한다.

신뢰수준 95%라는 말은 한 번 계산한 특정 구간에 모수가 95% 확률로 들어간다는 빈도주의 문장이 아니다. 같은 절차를 반복했을 때 생성된 구간의 장기 포함률을 뜻한다.

5.3 표본크기

단순무작위·정규근사에서 비율의 목표 오차한계 $E$, 사전 비율 $p$가 있을 때 큰 모집단의 초기 표본크기와 유한모집단 보정은 다음과 같다.

95% 신뢰수준, $E=0.05$, 사전 비율을 모르는 보수적 $p=0.5$이면 $n_0=1.96^2\times0.25/0.05^2=384.16$이므로 큰 모집단에서 최소 385명으로 올림한다. $N=1{,}000$이면 유한보정 결과는 약 277.74이므로 278명으로 올림한다.

실제 조사 초대 수는 설계효과와 예상 응답률을 반영한다. 목표 완성표본이 278명이고 예상 응답률이 70%라면 단순 계산상 최소 278/0.70≈397.14, 즉 398명에게 접근해야 한다. 무응답이 무작위가 아니면 초대 수 확대만으로 편향이 해결되지는 않는다.

표본 수를 2배로 늘리면 표준오차는 약 $1/\sqrt2\approx0.707$배이고, 절반으로 줄이려면 약 4배가 필요하다. 비용과 비표본오차까지 고려해 규모를 정한다.

6. 집락 상관과 설계효과

설계효과와 유효 표본크기는 다음처럼 정의할 수 있다.

같은 크기 $m$의 집락과 집락 내 상관계수 $\rho$를 단순화해 가정하면 평균 추정의 집락 설계효과는 대략 다음과 같다.

$m=10$, $\rho=0.1$이면 $DEFF\approx1+9\times0.1=1.9$다. 실제 표본이 1,000명이어도 단순 근사 유효 표본크기는 약 $1{,}000/1.9=526.3$명이다. 집락 크기가 다르거나 가중치 변동·층화가 함께 있으면 이 단순식만으로 충분하지 않다. 층화는 정밀도를 높여 DEFF를 1보다 작게 만들 수도 있고, 불균등 가중치는 분산을 늘릴 수 있다.

복합표본의 표준오차는 층·PSU·가중치와 유한모집단 정보를 반영한 Taylor 선형화, 반복가중치 등의 설계 기반 방법으로 계산한다. 행 수만 넣은 일반 통계 함수의 표준오차를 그대로 보고하지 않는다.

7. 표본오차와 비표본오차

완료 응답률만 보지 말고 층·지역·업종별 응답률, 응답자와 표본틀의 보조변수 차이, 대체 연락 절차를 기록한다. 무응답 조정가중치와 모집단 보정은 극단가중치를 만들 수 있으므로 가중치 분포와 민감도를 확인한다.

8. 조사 설계와 보고 절차

1. 목표모집단, 조사 기준일과 추론 범위를 정의한다.
2. 표본틀의 누락·중복·노후화와 단위를 점검한다.
3. 비용·정밀도·소집단 요구에 맞는 층·집락·단계를 설계한다.
4. 각 단계의 포함확률, 표본 배분, 무작위 시작·시드를 기록한다.
5. 목표 오차한계, 설계효과, 응답률로 표본·초대 규모를 계산한다.
6. 현장에서 무응답·대체·접촉 횟수·측정 품질을 기록한다.
7. 설계·무응답·보정 가중치와 층·PSU를 반영해 추정·분산을 계산한다.
8. 추정치·SE·구간뿐 아니라 포함률·응답률·가중치 분포·적용 한계를 보고한다.

9. 사례 적용

상황: 전국 소상공인의 디지털 결제 사용률을 조사한다. 지역·업종별 차이가 크고 사업자 명부에는 휴·폐업 반영 지연이 있다.

판단 과정:

1. 조사 기준일의 영업 중 소상공인을 목표모집단으로 정의하고 명부의 휴·폐업·중복을 점검한다.
2. 지역×업종을 층으로 만들고 작은 중요 층은 최소 표본을 확보하도록 과대표집한다.
3. 층별 포함확률의 역수로 기본가중치를 만들고 무응답·모집단 보조정보로 조정한다.
4. 층·가중치를 반영해 사용률과 표준오차·신뢰구간을 계산한다.
5. 층별 응답률, 낡은 표본틀의 포함오류와 극단가중치 민감도를 함께 보고한다.

결론: 층화로 소집단 정밀도를 확보하되 불균등 추출·무응답을 가중치와 설계 기반 분산에 반영하고, 표본틀 편향은 별도 한계로 평가한다.

오답 함정: 응답자가 10만 명이라는 사실만으로 자발적 온라인 설문이 전국 소상공인을 대표하거나 표본오차가 0이라고 판단하지 않는다.

단순무작위는 개별 단위를, 층화는 각 층에서 단위를, 집락은 선택한 집락 안의 단위를, 계통은 임의 시작점 뒤 일정 간격 단위를 뽑는다. 설계에 따라 포함확률·가중치·분산 계산이 달라진다.

단순무작위 이항비율 근사에서 오차한계는 $1/\sqrt{n}$ 비율로 감소하므로 표본을 4배로 늘려야 약 절반이 된다. 큰 표본도 비응답·포함 누락·측정오류 같은 비표본오차를 자동 제거하지 않는다.

시험 판단 포인트

• 표본틀은 목표모집단의 단위를 식별하며 누락·중복·노후화가 포함오류를 만든다.
• 기본 설계가중치는 포함확률의 역수다.
• 계통추출은 무작위 시작과 목록 주기성을 확인한다.
• 층화는 모든 층에서 추출하고, 집락은 일부 집락을 먼저 선택한다.
• 불비례 층화와 다단계 추출은 포함확률·가중치를 반영한다.
• 복원 없는 단순무작위추출에서 큰 추출률은 FPC로 표준오차를 줄인다.
• 표본 수를 4배로 늘리면 표준오차가 대략 절반이 된다.
• 집락 내 상관은 일반적으로 설계효과를 키워 유효 표본크기를 줄인다.
• 표본 수 확대는 포함·선택·무응답·측정 편향을 자동 제거하지 않는다.
• 복합표본의 표준오차는 층·집락·가중치를 반영해 계산한다.

자주 틀리는 부분

• 단순무작위에서 각 단위 포함확률과 모든 고정크기 표본의 선택확률을 혼동하지 않는다.
• 계통추출의 시작점을 임의로 고정하거나 목록 주기성을 무시하지 않는다.
• 층화와 집락을 모두 집단으로 나눈다는 이유만으로 같은 설계로 보지 않는다.
• 과대표집한 층을 가중치 없이 전체 추정에 합치지 않는다.
• FPC를 복원추출·무한모집단·복합설계에 기계적으로 적용하지 않는다.
• 표본 수를 두 배로 늘리면 표준오차가 절반이 된다고 계산하지 않는다.
• 실제 응답 수를 목표 완성표본 수와 혼동하지 않는다.
• 집락 표본에서 행 수만 사용한 단순 표준오차를 보고하지 않는다.
• 자발적 대규모 설문의 $s/\sqrt n$이 선택 편향까지 측정한다고 보지 않는다.
• 전수조사의 표본오차가 0이면 모든 조사 오류도 0이라고 보지 않는다.