네트워크 계층과 캡슐화 | 정보보안기사 필기

네트워크는 장치들이 데이터를 주고받도록 연결된 구조이고, 프로토콜은 메시지 형식·의미·순서에 대한 약속이다. 계층화하면 기능을 나누고 서로 다른 장치의 호환성과 장애 분석을 돕는다.

1. OSI 7계층

OSI(Open Systems Interconnection) 참조 모델은 서로 다른 시스템의 통신 기능을 이해하고 표준을 정리하기 위한 7계층 모델이다. 실제 인터넷 프로토콜 하나하나를 구현하는 명세가 아니라, 통신 기능을 역할별로 바라보기 위한 기준 모델에 가깝다.

계층	이름	핵심 질문	주요 역할	대표적인 연관 기술·정보
7	응용(Application)	사용자가 어떤 네트워크 서비스를 이용하는가?	응용 프로그램에 네트워크 기능 제공	HTTP, DNS 등
6	표현(Presentation)	데이터를 어떤 표현 형식으로 주고받는가?	표현 형식 변환, 인코딩, 압축·암호화와 관련된 기능을 개념적으로 분류	문자 인코딩, 데이터 표현 등
5	세션(Session)	두 응용 간 대화를 어떻게 설정·유지하는가?	세션 설정·관리·동기화와 관련된 기능을 개념적으로 분류	대화 제어, 동기화 개념
4	전송(Transport)	어느 프로그램까지 어떻게 전달할 것인가?	종단 간 전송, 포트 기반 다중화, 신뢰성·순서 제어 등	TCP, UDP
3	네트워크(Network)	어느 네트워크의 어느 호스트로 보낼 것인가?	논리 주소 지정과 네트워크 간 전달	IP, ICMP, 라우터
2	데이터 링크(Data Link)	현재 링크에서 다음 장치까지 어떻게 전달할 것인가?	프레임 구성, 링크 계층 주소, 매체 접근, 오류 검출	Ethernet, IEEE 802.11, 스위치
1	물리(Physical)	비트를 실제 신호로 어떻게 전달할 것인가?	전기·광·무선 신호와 물리 매체를 통한 비트 전송	케이블, 광 신호, 전파 등

OSI 모델에서 가장 중요한 것은 계층 번호를 외우는 것보다 각 계층이 해결하는 문제가 무엇인지 구분하는 것이다. 특히 네트워크 보안에서는 “이 현상이 어느 계층의 정보에서 관찰되는가?”를 판단할 수 있어야 한다.

TCP/IP의 응용 계층은 OSI 7·6·5계층, 전송은 4계층, 인터넷은 3계층, 링크는 2·1계층과 기능상 대응한다. 이는 개념적 대응이며 실제 암호화가 반드시 OSI 6계층에서만 이루어지는 것은 아니다.

2. 캡슐화와 역캡슐화

송신 측에서 상위 계층의 데이터가 하위 계층으로 내려가면서 각 계층에 필요한 제어 정보가 붙는 과정을 캡슐화(encapsulation)라고 한다. 수신 측에서 반대로 각 계층의 정보를 확인하고 제거하면서 상위 계층으로 전달하는 과정을 역캡슐화(decapsulation)라고 한다.

TCP를 사용하는 통신을 단순화하면 다음과 같다.

응용 계층이 전송할 응용 데이터를 만든다.
전송 계층이 TCP 헤더를 붙여 TCP 세그먼트(segment)를 만든다.
인터넷 계층이 IP 헤더를 붙여 IP 패킷 또는 IP 데이터그램을 만든다.
링크 계층이 링크 헤더와 필요한 트레일러를 붙여 프레임(frame)을 만든다.
물리 매체에서는 프레임을 구성하는 정보가 비트(bit)와 신호의 형태로 전달된다.
수신 측은 이 과정을 반대로 수행하여 최종적으로 응용 데이터를 해당 프로그램에 전달한다.

UDP를 사용하면 전송 계층의 데이터 단위를 보통 UDP 데이터그램(datagram)이라고 부른다. 문헌에 따라 packet이라는 용어를 넓은 의미로 사용하기도 있으므로, 시험에서는 계층별 제어 정보와 역할을 기준으로 판단하는 것이 안전하다.

라우터를 지날 때 무엇이 달라지는가

한 링크에서 사용하는 프레임은 그 링크의 전달에 필요한 정보다. 따라서 패킷이 라우터를 지나 다음 링크로 이동할 때는 기존 링크 계층 프레임이 제거되고 다음 링크에 맞는 새 프레임으로 다시 구성된다.

반면 IP의 출발지·목적지 주소는 일반적인 라우팅 과정에서는 종단 간 목적지를 나타내므로 그대로 유지된다. 다만 IPv4의 TTL 또는 IPv6의 Hop Limit 같은 값은 라우터를 지날 때 변경되며, NAT가 적용된 경우에는 주소가 변환될 수 있다. NAT의 동작은 이후 주소 변환 이론에서 별도로 다룬다.

3. 계층마다 보는 식별 정보가 다르다

네트워크 분석에서 자주 혼동하는 세 가지가 링크 계층 주소, IP 주소, 포트 번호다. 세 값은 서로 대체 관계가 아니라 다른 질문에 답한다.

정보	주로 사용되는 계층	답하는 질문	범위
링크 계층 주소(예: MAC 주소)	데이터 링크/링크	현재 링크에서 다음에 어느 인터페이스로 전달할 것인가?	같은 링크의 전달에 직접 사용
IP 주소	네트워크/인터넷	네트워크들을 거쳐 어느 IP 종단으로 보낼 것인가?	네트워크 간 전달에 사용
포트 번호	전송	도착한 데이터를 어느 응용 프로세스에 전달할 것인가?	한 호스트 내부의 통신 종단 구분

예를 들어 목적지 서버의 IP 주소를 알고 있다고 해서 그 서버의 어떤 프로그램으로 데이터를 전달해야 하는지까지 정해지는 것은 아니다. TCP나 UDP의 목적지 포트가 응용 프로세스를 구분하는 데 사용된다.

반대로 목적지 IP가 원격 네트워크에 있다면 송신 호스트는 현재 링크에서 원격 서버의 MAC 주소를 직접 사용하는 것이 아니라 일반적으로 다음 홉인 기본 게이트웨이로 프레임을 보낸다. 이후 라우터가 패킷을 다음 네트워크로 전달한다.