SW 전공
시험 직전 요약장
판단 기준과 헷갈리는 개념, 대표 예제를 짧게 확인하세요.
신경망과 Transformer 기본 원리
원래 이론 →헷갈리는 개념
표를 좌우로 밀어 나머지 열을 확인하세요. 키보드: ←·→, Home·End
| 함수 | 특징 |
|---|---|
| Sigmoid | 0~1, 확률 출력에 사용 가능, 깊은 층에서 기울기 감소 가능 |
| Tanh | -1~1, 중심이 0 |
| ReLU | max(0,z), 단순하고 널리 사용 |
| Softmax | 여러 클래스 점수를 확률합 1로 변환 |
대표 계산·예제
뉴런 출력은 z=w·x+b, a=f(z)로 계산한다. x=(2,3), w=(0.5,-1), b=1이면 z=1-3+1=-1, ReLU 출력은 0이다.
경사하강법 갱신은 다음과 같다.
예시·텍스트좌우로 이동해 전체 내용을 확인하세요. 키보드: ←·→, Home·End
w_new = w_old - learning_rate × gradient
가중치 2, 학습률 0.1, 기울기 3이면 새 가중치는 1.7이다. 분류의 cross entropy는 정답 클래스 확률이 커질수록 작아진다. 정답 확률이 0.8이면 손실은 -ln(0.8)≈0.223이다.
내 최근 연습 오답
현재 브라우저의 연습 채점 기록에서 공개된 단원과 연결된 오답을 확인합니다.
오답 기록을 확인하고 있습니다.