시험 직전 요약장

• 평균 앙상블의 효과는 예측기 수뿐 아니라 예측오차 상관에 좌우된다.
• 크기 n의 부트스트랩 표본에서 한 관측치가 OOB일 확률은 약 36.8%다.
• 랜덤포레스트는 부트스트랩과 분할 후보 변수 무작위화로 나무 상관을 낮춘다.
• 부스팅은 순차 갱신이며 학습률이 작으면 보통 더 많은 반복이 필요하다.
• 스태킹의 메타모형은 OOF 예측으로 학습하고 테스트 라벨을 선택에 쓰지 않는다.
• 독립·대응 구조와 집단 수를 먼저 확인해 비모수 검정을 선택한다.
• Wilcoxon 부호순위는 대응 차이의 대칭성, 순열검정은 교환가능성을 확인한다.
• 전체검정 뒤 사후비교에는 다중비교 보정이 필요하다.

두 독립 집단 A={1,3,5}, B={2,4,6}을 합쳐 작은 값부터 1~6위를 부여한다. A의 순위는 1, 3, 5이므로 R_A=9, n_A=n_B=3이다.

U_A = R_A - n_A(n_A+1)/2
    = 9 - 3×4/2
    = 3

A_A>B = U_A/(n_A n_B) = 3/9 = 0.333
rank-biserial = 2A_A>B - 1 = -0.333

여기서 정의한 A_A>B는 무작위로 고른 A값이 B값보다 클 확률에 동점의 절반을 더한 값이다. U의 방향 정의를 반대로 쓰는 문헌도 있으므로 어떤 집단을 기준으로 했는지 명시한다. p-value는 U값만 보고 정하지 않고 n_A,n_B, 동점과 정확·점근 분포를 반영한다.

Spearman 상관은 각 변수 값을 순위로 바꾼 뒤 두 순위의 Pearson 상관을 계산한다. 동점이 없을 때만 다음 단축식을 그대로 쓸 수 있다.

ρ_s = 1 - 6Σd_i²/[n(n²-1)]

예를 들어 n=5, 순위차가 [0,1,-1,0,0]이면 Σd_i²=2이고 ρ_s=1-12/(5×24)=0.9다. 동점이 있으면 평균순위를 부여하고 순위 벡터의 상관을 직접 계산한다. 큰 절댓값은 단조 연관성을 뜻하지만 인과관계는 아니다.