시험 직전 요약장

• 실제 오차 εᵢ는 관측할 수 없고, 잔차 eᵢ=yᵢ-ŷᵢ는 적합 결과에서 계산한다.
• 잔차가 양수면 과소예측, 음수면 과대예측이다.
• MAE와 RMSE는 목표변수와 같은 단위이고, MSE는 그 단위의 제곱이다.
• RMSE는 MAE보다 큰 오차에 민감하다.
• 테스트 R²는 평균 예측 기준보다 나쁘면 음수가 될 수 있다.
• 수정 R²는 변수 수에 벌점을 주지만 독립 테스트 성능을 대신하지 않는다.
• 정규성은 특히 회귀계수의 검정·신뢰구간에 관련되며 예측 유용성과 같은 판단이 아니다.
• 큰 잔차, 높은 레버리지, 큰 영향력은 서로 같은 개념이 아니다.

n > p + 1이어야 분모가 0이 아니다. 불필요한 변수를 추가하면 벌점 때문에 수정 R²가 낮아질 수 있고 값이 음수가 될 수도 있다. 예를 들어 n=20, p=2, R²=0.80이면 수정 R² = 1 - 0.20×19/17 ≈ 0.776이다. 수정 R²도 훈련 자료에 기반한 비교 지표이므로 독립 테스트 성능을 대신하지 않는다.