TLS 1.2 Handshake 동작 과정 + HTTPS 개요

ByteByteGo : SSL, TLS, HTTPS Explained 영상을 보며 정리한 글입니다.

 

HTTPS 개요

TLS 1.2 Handshake 동작 과정 설명에 앞서 몇 가지 개념을 소개합니다.

 

▶ HTTPS : HTTP 프로토콜을 TLS/SSL 로 암호화한 프로토콜입니다.

 

▶ SSL/TLS : 암호화 프로토콜로, 인터넷을 통해 전송되는 데이터를 보호합니다. SSL 이 최초의 암호화 프로토콜이며, 보안이 더 향상되고, 발전한 것이 TLS 프로토콜입니다.

 

▶ 대칭키 암호화 방식

암호화/복호화에 같은 키를 사용하는 양방향 암호 방식입니다.

같은 키를 사용하기 때문에 미리 안전한 통로를 통해 키가 교환되어야 합니다.

같은 키를 사용하기 때문에 암호화 속도가 빨라서 대용량 데이터 암호 처리에 사용됩니다.

같은 키를 사용하기 때문에 비교적 안전하지 못해 전자 서명, 인증에 쓰이지 못합니다.

 

▶ 비대칭키(공개키) 암호화 방식

암호화/복호화에 다른 키를 사용하는 양방향 암호 방식입니다.

공개키(누구나 가질 수 있는 키)로 암호화 한 것은 개인키(비밀키)로 복호화 할 수 있으며, 그 역인 개인키로 암호화 한 것은 공개키로 복호화 할 수 있습니다.

다른 키를 사용하기 때문에 암호화 속도가 대칭키 암호화 방식보다 느립니다.

 

▶ 전자 서명

비대칭키 암호화 방식을 사용합니다.

서명자는 개인 키를 사용하여 서명하면, 수신자는 공개키를 사용하여 서명을 확인합니다.

 

TLS 1.2 Handshake 동작 과정

TLS handshake 은 TCP Handshake, Certificate Check, Key Exchage, Data Transmission 로 총 4개의 과정으로 나눌 수 있습니다.

사진1. 서버와 클라이언트간의 TLS Handshake 과정을 총 정리한 사진

1. TCP Handshake

TCP Handshake 는 서버와 클라이언트간 신뢰성 있는 연결을 설정하는 과정으로 3-way Handshake 라고 부릅니다.

3-way Handshake 는 SYN(동기화), SYN + ACK(동기화+승인), ACK(승인) 의 세 단계로 구분되며 다른 글에서 소개하겠습니다.

사진2. TCP Handshake

2. Certificate Check

* 사진 3을 참고하세요

 

2-1. Client Hello

클라이언트는 클라이언트가 지원하는 TLS 버전과 암호화 알고리즘 목록들을 담아서 서버에게 Hello 메시지를 보냅니다.

 

2-2. Server Hello

서버는 클라이언트 메시지의 TLS버전과 암호화 알고리즘 목록들을 기반으로 사용할 TLS버전과 암호화 알고리즘을 선택해서 클라이언트에게 보냅니다.

 

2-3. Certificate

서버는 클라이언트에게 서버의 공개키가 담긴 인증서를 보냅니다.

 

2-4. Server Hello Done

서버는 Certificate Check 가 끝났다는 메시지를 클라이언트에게 보냅니다.

사진3. Certificate Check

3. Key Exchange

Client Key Exchange ~ Finished 전체

클라이언트는 랜덤 세션키를 하나 생성합니다.

그리고, 서버의 공개키로 해당 랜덤 세션키를 암호화합니다.

암호화한 랜덤 세션키를 서버에게 보내고, 서버는 이 랜덤 세션키를 개인키로 복호화합니다.

 

즉, ⭐랜덤 세션키를 주고 받기 위해 서버와 클라이언트는 비대칭키 암호화 방식을 사용합니다. 

사진4. Key Exchage 방식 및, 세션 키 암호화 복호화하는 과정

4. Data Transmission

드디어 처음에 봤던 사진과 동일한 사진이 나왔습니다.

 

이제 서버와 클라이언트는 같은 세션키를 가지고 있습니다.

이제 데이터를 주고 받을 때, 클라이언트는 세션키로 데이터를 암호화하고 서버는 세션키로 데이터를 복호화합니다.

 

즉, ⭐데이터를 주고 받을 때, 서버와 클라이언트는 대칭키 암호화 방식을 사용합니다. 

 

사진5. TLS 1.2 Handshake 로 이루어지는 HTTPS 도식화

 

결론

⭐⭐⭐즉, 세션키(대칭키)를 만들기 전까지 클라이언트와 서버는 비대칭키 암호화 방식을 사용합니다.

이렇게 만든 고유한 세션키(대칭키)로 둘은 대칭키 암호화 방식으로 데이터를 전송하게 됩니다. ⭐⭐⭐

 

TLS 1.2 Handshake 는 대칭키, 비대칭키 암호화 방식을 사용하며 이루어지며 HTTPS 을 이용할 수 있게 되었습니다.

하지만, 사진에서 알수 있듯이 HTTPS 가 이루어지기 위해 수 많은 네트워크 왕복이 일어납니다.

 

TLS 1.3  에서는 네트워크 왕복 횟수를 줄이기 위해 Handshake 를 최적화 하고, 더 강력한 암호화 알고리즘을 사용하여 안전하게 키를 교환하는 등 TLS 1.2 보다 업그레이드 되었다고 합니다.

 

TLS 1.3 과 TLS 1.2 의 차이는 Cloudflare - TLS 1.3 을 사용하는 이유는? 에서 찾아 볼 수 있겠습니다.