빅데이터분석기사 필기
시험 직전 요약장
판단 기준과 헷갈리는 개념, 대표 예제를 짧게 확인하세요.
인공신경망의 학습 원리
원래 이론 →판단 기준
- 층의 기본 계산은
z=Wa+b,a=f(z)이며 편향을 포함하면 아핀 변환이다. - 비선형 활성화가 없으면 여러 층도 하나의 아핀 변환으로 축약된다.
- 출력층과 손실함수는 이진·다범주·다중라벨·회귀 문제에 맞춰 조합한다.
- 역전파는 기울기를 계산하고 최적화 알고리즘은 파라미터를 갱신한다.
- 완전연결층의 파라미터 수는
(입력 수+1)×출력 노드 수다. - 모든 가중치를 0으로 초기화하면 은닉 노드의 대칭성이 깨지지 않는다.
- 드롭아웃·배치정규화는 학습과 추론 시 동작이 다르다.
- 조기종료와 하이퍼파라미터는 검증으로 선택하며 테스트로 조정하지 않는다.
헷갈리는 개념
표를 좌우로 밀어 나머지 열을 확인하세요. 키보드: ←·→, Home·End
| 함수 | 정의·범위 | 장점 | 주의점 |
|---|---|---|---|
| ReLU | max(0,z), [0,∞) | 계산이 단순하고 양수 영역 기울기 유지 | 음수 영역 기울기 0, 죽은 ReLU 가능 |
| Leaky ReLU | max(az,z), 보통 0<a<1 | 음수 영역에도 작은 기울기 | a 선택 필요 |
| sigmoid | 1/(1+e⁻ᶻ), (0,1) | 이진 출력 확률에 적합 | 양끝 포화에서 기울기 소실 가능 |
| tanh | (eᶻ-e⁻ᶻ)/(eᶻ+e⁻ᶻ), (-1,1) | 0 중심 출력 | 양끝 포화에서 기울기 소실 가능 |
대표 계산·예제
a⁽⁰⁾=x를 입력이라 하면 l번째 층은 다음처럼 계산한다.
예시·텍스트좌우로 이동해 전체 내용을 확인하세요. 키보드: ←·→, Home·End
z⁽ˡ⁾ = W⁽ˡ⁾a⁽ˡ⁻¹⁾ + b⁽ˡ⁾
a⁽ˡ⁾ = f⁽ˡ⁾(z⁽ˡ⁾)
W: 학습되는 가중치 행렬b: 학습되는 편향 벡터z: 활성화 전 선형결합에 편향을 더한 값a: 활성화함수를 지난 층의 출력
가중합에 편향이 포함된 변환은 엄밀히 말해 선형변환이 아니라 아핀 변환이다. 다만 학습 문맥에서는 관습적으로 ‘선형층’이라고 부르기도 한다.
내 최근 연습 오답
현재 브라우저의 연습 채점 기록에서 공개된 단원과 연결된 오답을 확인합니다.
오답 기록을 확인하고 있습니다.