통계학 개론

핵심 요약

모집단·표본·표본추출과 확률·조건부확률·독립, 베르누이·이항·정규분포, 점·구간추정과 표본분포·표준오차·중심극한정리를 계산 중심으로 정리한다.

본문

모집단·표본·모수·통계량과 표본추출·편향

모집단은 관심 대상 전체이고 표본은 모집단에서 관측한 일부다. 모집단의 특성을 나타내는 값을 모수(parameter), 표본에서 계산한 값을 통계량(statistic)이라 한다.

큰 표본이 항상 좋은 표본은 아니다. 특정 사용자만 조사하면 표본 수가 커도 모집단을 대표하지 못할 수 있다. 무작위 추출, 층화 등 표본추출 설계와 비응답·선택 편향을 함께 본다.

표본추출 방법에는 군집추출(cluster sampling)도 있다. 학교·지점·지역처럼 모집단을 군집으로 나눈 뒤 일부 군집을 무작위로 선택하고, 선택된 군집의 전체 또는 일부 대상을 조사하는 방식이다. 층화추출이 각 층에서 표본을 뽑아 층별 대표성을 확보하려는 방식이라면, 군집추출은 조사 단위를 군집으로 묶어 비용·접근성을 줄이는 목적이 흔하다.

확률·조건부확률·독립, 확률변수·기대값·분산

조건부확률은

P(A|B) = P(A∩B) / P(B) (P(B)>0)

이다. 두 사건 A, B가 독립이면 P(A∩B)=P(A)P(B)가 성립한다.

확률변수 X의 기대값은 가능한 값의 확률 가중평균이고, 분산은 평균에서 떨어진 정도의 제곱을 평균낸 값이다.

Var(X)=E[(X-E[X])^2] = E[X^2]-E[X]^2

기본 확률 계산에서는 여사건과 합사건도 자주 사용한다.

• 여사건: P(A^c) = 1 - P(A)
• 합사건: P(A∪B) = P(A) + P(B) - P(A∩B)

A와 B가 서로 배반이면 P(A∩B)=0이므로 합사건 공식이 단순 합으로 줄어든다.

베르누이·이항분포·정규분포의 기본 계산

베르누이 확률변수는 성공 확률 p인 한 번의 0/1 시행을 나타낸다.

• E[X]=p
• Var(X)=p(1-p)

독립이고 성공확률이 같은 베르누이 시행을 n번 합한 성공 횟수는 이항분포 Bin(n,p)를 따른다.

P(X=k) = C(n,k) p^k (1-p)^(n-k)

예를 들어 n=5, p=0.2, k=2이면

P(X=2)=10×0.2^2×0.8^3=0.2048

이다.

정규분포 N(μ,σ²)는 평균을 중심으로 대칭이며 표준화 점수는

Z=(X-μ)/σ

로 계산한다.

이항확률변수 X~Bin(n,p)의 평균과 분산은 각각

• E[X] = np
• Var(X) = np(1-p)

이다. 예를 들어 n=20, p=0.3이면 기대 성공 횟수는 6, 분산은 20×0.3×0.7=4.2다.

점추정·구간추정과 불편성·일치성

점추정은 모수를 하나의 값으로 추정하고, 구간추정은 불확실성을 범위로 표현한다.

추정량의 대표 성질은 다음처럼 이해한다.

• 불편성: 반복 표본에서 추정량의 기대값이 참 모수와 일치
• 일치성: 표본 수가 커질수록 참 모수에 가까워짐

표본평균은 모집단 평균의 대표적인 추정량이다.

표본분포·표준오차·중심극한정리·신뢰구간

같은 모집단에서 표본을 반복해서 뽑으면 표본평균도 매번 달라진다. 이 표본평균들의 분포가 표본분포다.

모집단 표준편차가 σ일 때 표본평균의 표준오차는

SE = σ / √n

이다. 표본 수가 4배가 되면 표준오차는 절반이 된다.

중심극한정리는 일정 조건에서 표본 수가 충분히 커지면 모집단 분포가 완전한 정규분포가 아니어도 표본평균의 분포가 정규분포에 가까워진다는 결과다. 표본 수가 크다고 원자료 자체가 정규분포가 된다는 뜻은 아니다.

모집단 표준편차 σ를 알고 정규 근사를 사용할 수 있다고 하자. 표본평균이 50, σ=10, n=100이면 SE=1이다. 95% 신뢰구간을 50 ± 1.96×1로 계산하면 [48.04, 51.96]이다.

σ를 모를 때는 표본표준편차와 t분포를 사용하는 상황이 많고 자유도는 일표본 평균 문제에서 보통 n-1이다.

신뢰구간과 표본분포를 해석할 때 다음을 구분한다.

• 빈도주의 95% 신뢰구간은 같은 절차로 표본을 반복해 구간을 만들 때 그중 약 95%가 참 모수를 포함하도록 설계된 절차라는 뜻이다. 이미 계산된 하나의 고정 구간에 대해 ‘모수가 95% 확률로 들어 있다’고 해석하지 않는다.
• 모집단 자체가 정규분포라면 표본평균은 작은 표본에서도 정규분포를 따른다. 중심극한정리는 비정규 모집단에서도 충분히 큰 표본에서 표본평균이 정규에 가까워지는 근거다.
• 모분산을 모르고 표본표준편차를 쓰는 평균 추론에서 사용하는 t분포는 정규분포보다 꼬리가 두껍고, 자유도가 커질수록 표준정규분포에 가까워진다.
• SD는 관측값 자체의 산포, SE는 표본통계량의 표본 간 변동성을 나타낸다.
• 다른 조건이 같다면 신뢰수준을 높일수록 임계값이 커져 신뢰구간은 넓어진다.