확률·확률분포와 표본추출

1. 확률의 기본

확률은 불확실한 사건이 일어날 가능성을 0과 1 사이의 값으로 표현한다.

• 표본공간 S: 가능한 모든 결과
• 사건 A: 관심 있는 결과의 집합
• 여사건 Aᶜ: A가 일어나지 않는 사건
• 배반사건: 동시에 일어날 수 없는 사건

0 ≤ P(A) ≤ 1
P(S) = 1
P(Aᶜ) = 1 - P(A)

2. 덧셈법칙

P(A ∪ B) = P(A) + P(B) - P(A ∩ B)

A와 B가 배반이면 교집합이 0이므로 단순히 더한다.

예:

장애 A 발생확률 0.10
장애 B 발생확률 0.20
둘 다 발생확률 0.05

적어도 하나 발생:
0.10 + 0.20 - 0.05 = 0.25

3. 조건부확률

B가 일어났다는 조건에서 A가 일어날 확률:

P(A | B) = P(A ∩ B) / P(B)

예:

전체 요청 1,000건
모바일 요청 400건
모바일 중 오류 20건

P(오류 | 모바일) = 20 / 400 = 0.05

전체 오류율과 특정 집단의 조건부 오류율을 구분한다.

4. 독립

A의 발생 여부가 B의 확률에 영향을 주지 않으면 독립이다.

P(A ∩ B) = P(A)P(B)

배반과 독립은 다르다. 확률이 0이 아닌 두 사건이 배반이면 한 사건이 발생할 때 다른 사건은 발생할 수 없으므로 일반적으로 독립이 아니다.

5. 베이즈 정리

관찰 결과가 주어졌을 때 원인 확률을 갱신한다.

P(A | B) = P(B | A)P(A) / P(B)

이상탐지 예:

실제 이상 비율: 1%
이상일 때 경보: 90%
정상일 때 오경보: 5%

경보가 울렸을 때 실제 이상일 확률
= 0.90×0.01 / (0.90×0.01 + 0.05×0.99)
≈ 15.4%

탐지기가 정확해 보여도 이상 자체가 매우 드물면 경보 중 실제 이상 비율이 낮을 수 있다. 이를 기저율 효과와 연결해 이해한다.

6. 확률변수·기댓값·분산

확률변수는 결과를 수치로 대응시킨다.

이산확률변수의 기댓값:

E[X] = Σ x·P(X=x)

분산:

Var(X) = E[(X-E[X])²]

표준편차는 분산의 제곱근이다.

예:

X=0, 1, 2
확률=0.2, 0.5, 0.3

E[X] = 0×0.2 + 1×0.5 + 2×0.3 = 1.1

7. 베르누이·이항분포

베르누이 시행은 성공·실패 두 결과를 가진다.

성공확률 p인 독립 시행을 n번 반복한 성공 횟수 X:

X ~ Binomial(n, p)
P(X=k) = C(n,k)p^k(1-p)^(n-k)
평균 = np
분산 = np(1-p)

예: 요청 10건의 개별 실패확률이 독립적으로 0.1이면 기대 실패건수는 10×0.1=1이다.

8. 포아송분포

일정 시간·공간에서 드물게 발생하는 사건의 횟수를 모델링할 때 사용한다.

X ~ Poisson(λ)
P(X=k) = e^(-λ) λ^k / k!
평균 = λ
분산 = λ

예: 분당 평균 장애 알림이 2건이라면 λ=2이다. 실제 데이터가 독립·일정 발생률 가정을 충족하는지 확인해야 한다.

9. 정규분포

평균을 중심으로 좌우 대칭인 종 모양 연속분포이다.

            평균 μ
              │
          ▂▄▆█▆▄▂
        μ-σ   │   μ+σ

표준화:

Z = (X - μ) / σ

경험적 규칙:

• 약 68%가 평균 ±1표준편차
• 약 95%가 평균 ±2표준편차
• 약 99.7%가 평균 ±3표준편차

실제 분포가 정규분포인지 확인하지 않고 규칙을 기계적으로 적용하면 안 된다.

10. 중심극한정리

일정 조건에서 표본크기가 커지면 표본평균의 분포가 원래 모집단 분포와 무관하게 정규분포에 가까워진다는 결과이다.

모집단에서 표본 n개 추출
      ↓ 평균 계산
이 과정을 여러 번 반복
      ↓
표본평균들의 분포
      → n이 충분히 크면 정규분포에 가까워짐

모집단 데이터 자체가 정규분포가 된다는 뜻은 아니다.

11. 표본추출

고객 유형별 비율이 크게 다르고 각 유형을 반드시 분석해야 하면 층화추출이 유용하다.

12. 표본오차와 비표본오차

• 표본오차: 전체가 아닌 표본을 사용해 생기는 변동
• 비표본오차: 측정 오류, 응답편향, 누락, 잘못된 처리 등

표본크기를 늘리면 표본오차는 줄 수 있지만 잘못된 질문·편향된 수집·오류 데이터는 자동 해결되지 않는다.

13. 곱셈법칙·전체확률·베이즈 계산

P(A∩B) = P(A)P(B|A)
P(B) = Σ P(B|Ai)P(Ai)
P(Ai|B) = P(B|Ai)P(Ai) / P(B)

질병 유병률이 1%, 민감도 90%, 위양성률 5%이면 양성일 때 실제 질병일 확률은 다음과 같다.

P(D|+) = 0.90×0.01 / (0.90×0.01 + 0.05×0.99)
       ≈ 0.154

검사 정확도가 높아 보여도 기저율이 낮으면 양성 예측도가 낮을 수 있다.

14. 기댓값·분산의 성질

E(aX+b) = aE(X)+b
Var(aX+b) = a²Var(X)
Var(X+Y) = Var(X)+Var(Y)+2Cov(X,Y)

독립이면 공분산이 0이므로 분산이 더해지지만, 공분산 0만으로 일반적으로 독립을 보장하지는 않는다. 베르누이 확률변수는 E(X)=p, Var(X)=p(1-p)이고, 이항분포는 E(X)=np, Var(X)=np(1-p)이다.

15. 표본분포와 표준오차

모평균의 표준오차는 독립 동일분포와 유한 분산 가정 아래 σ/√n이다. 표본 수를 4배로 늘리면 표준오차는 절반이 된다. 모집단 크기 N에 비해 비복원 표본 n이 크면 유한모집단 수정계수도 고려한다.

FPC = sqrt((N-n)/(N-1))
수정 표준오차 = 기존 표준오차 × FPC

중심극한정리는 표본평균의 분포가 조건 아래 정규분포에 가까워진다는 내용이지, 원자료의 분포가 정규분포로 바뀐다는 뜻이 아니다.

16. 추출법과 편향

• 층화추출: 각 층에서 표본을 뽑아 중요한 하위집단을 대표
• 군집추출: 군집 일부를 선택해 조사 비용 절감
• 계통추출: 일정 간격 추출. 모집단의 주기성과 간격이 겹치면 편향 위험
• 편의추출: 접근이 쉬운 대상만 선택하여 대표성 위험

층별 평균을 합칠 때는 단순 평균이 아니라 모집단 또는 설계 가중치를 적용해야 한다.

17. 자주 쓰는 분포 판단

• 이항: 고정 횟수의 독립 시행에서 성공 횟수
• 포아송: 일정 구간의 사건 횟수
• 기하: 첫 성공까지 시행 횟수
• 지수: 포아송 과정에서 사건 사이 대기시간
• 정규: 연속형 측정값의 근사 모델로 자주 사용
• 초기하: 유한 모집단에서 비복원 추출한 성공 개수

확인 문제

1. 유병률 1%, 민감도 90%, 위양성률 5%에서 양성 예측도는 약?
2. 표본 수를 4배로 늘리면 평균의 표준오차는?
3. 고정 횟수 독립 시행의 성공 횟수 분포는?
4. 계통추출에서 모집단 주기와 간격이 겹치면?
5. 층별 평균을 전체 평균으로 합칠 때 필요한 것은?