빅데이터분석기사 필기
시험 직전 요약장
판단 기준과 헷갈리는 개념, 대표 예제를 짧게 확인하세요.
과대적합 방지와 하이퍼파라미터 최적화
원래 이론 →판단 기준
| 기준 | 확인 내용 | 예시 |
|---|---|---|
| 주평가지표 | 선택에 사용할 1차 지표를 사전 고정 | 희소 양성의 PR-AUC·재현율 |
| 필수 제약 | 반드시 만족할 운영 조건 | 최대 지연, 최소 정밀도, 메모리 |
| 안정성 | 폴드·기간·집단별 변동 | 평균은 같지만 최저 성능이 다른 후보 |
| 단순성 | 성능 차이가 작을 때 복잡도 비교 | 얕은 나무, 적은 특징, 작은 모델 |
| 재현성 | seed·폴드·분포·시도 수 기록 | 같은 예산으로 재실행 가능한가 |
다중 지표를 모두 최고로 만들 수 없으면 주평가지표와 제약을 사전에 정한다. 최고점과 차이가 실무 허용오차 δ 이내인 후보 중 가장 단순한 모형을 선택하는 규칙도 사용할 수 있다. δ를 결과를 본 뒤 바꾸지 않는다.
평균 성능이 조금 높더라도 추론 지연·메모리·재학습 시간·설명 가능성·데이터 요구량·집단별 위험이 크게 나빠지면 운영모형으로 부적합할 수 있다.
헷갈리는 개념
| 관찰 패턴 | 우선 의심 | 추가 확인 | 대표 대응 |
|---|---|---|---|
| 훈련 우수·검증 저조, 간격 큼 | 높은 분산·과대적합 | 누수, 분할, 시간 변화 | 규제·단순화·데이터·배깅 |
| 훈련·검증 모두 저조 | 높은 편향·과소적합 | 특징 부족, 최적화 실패, 지표 | 특징·모형 구조·학습 개선 |
| 훈련·검증 모두 우수 | 적절한 복잡도 가능 | 독립 테스트·집단별 안정성 | 유지·외부 검증 |
| 검증만 비정상적으로 우수 | 누수·중복 의심 | 전처리, 사용자·시간 중복 | 분할과 파이프라인 재설계 |
대표 계산·예제
격자 후보 수는 각 축의 후보 수를 곱한다.
후보 수 = ∏(각 하이퍼파라미터의 후보 수)
교차검증 적합 수 = 후보 수 × 안쪽 폴드 수
규제 강도 4개, 깊이 3개, 학습률 5개를 전수 탐색하면 4×3×5=60개 후보다. 5겹 교차검증에서는 후보 평가에 60×5=300번 적합한다. 바깥 5겹 중첩 교차검증까지 적용하면 안쪽 후보 평가만 약 5×300=1,500번이고, 각 바깥 폴드의 선택 설정 재적합 5번이 추가된다. 전처리 적합과 최종 전체 재학습 비용도 별도다.
무작위 탐색에서 탐색분포 중 유효한 좋은 영역의 비율을 p, 독립 추출 횟수를 n이라 하면 한 번 이상 그 영역을 뽑을 확률은 다음과 같다.
P(한 번 이상 적중) = 1 - (1-p)^n
좋은 영역이 10%이고 20개 후보를 뽑으면 1-0.9²⁰≈0.878이다. 이 계산은 후보 추출이 독립이고 p가 탐색분포에서 차지하는 비율이라는 단순 가정 아래의 값이며, 높은 확률이 최적값 발견을 보장하지는 않는다.
탐색 전에 최대 적합 횟수·시간·메모리와 조기 중단 규칙을 정한다. 실패 후보와 NaN 점수를 조용히 제외하면 비교가 왜곡될 수 있으므로 실패 원인과 유효 후보 수를 기록한다.
내 최근 연습 오답
현재 브라우저의 연습 채점 기록에서 공개된 단원과 연결된 오답을 확인합니다.
오답 기록을 확인하고 있습니다.