시험 직전 요약장

판별분석은 미리 알려진 집단 정보를 이용해 새 관측이 어느 집단에 속하는지 구분하는 지도학습 방법이다.

• LDA: 집단들이 공통 공분산 구조를 가진다는 가정 아래 선형 판별경계를 형성
• QDA: 집단별 공분산을 다르게 허용해 이차 형태의 경계를 만들 수 있음

마할라노비스 거리는 변수의 분산과 변수 간 상관을 고려한 거리다.

D² = (x-μ)' Σ⁻¹ (x-μ)

사전확률(prior probability)은 각 집단이 나타날 기본 가능성을 반영하며, 불균형 집단에서 판별 기준에 영향을 줄 수 있다.

두 집단 Fisher LDA의 대표적인 판별 방향은 상수배를 무시하면

w ∝ S_w^{-1}(μ1-μ2)

로 쓸 수 있다. 예를 들어 S_w=diag(4,1), μ1-μ2=(2,1)이면 S_w^{-1}=diag(1/4,1)이므로 w는 (0.5,1)에 비례한다.

1. 고유값이 4,1,0.5일 때 PC1의 설명분산비와 PC1+PC2 누적 설명분산비는?
2. 직교 요인에서 적재량이 0.8과 0.3이면 단순 제곱합 공통성은?
3. LDA와 QDA의 공분산 가정 차이를 설명하시오.
4. 변수 단위가 크게 다른 PCA에서 표준화를 검토하는 이유는?