Load Balancing

서버에 한번에 많은 트래픽이 몰리게 되면 해당 서버는 트래픽을 모두 감당할 수 없어 부하를 받게 된다. 따라서, 여러 개의 서버를 만들어 트래픽이 어느 한 서버에 몰리지 않도록 적절히 분배해야 하는데, 이것을 바로 로드 밸런싱이라고 한다.

여러 개의 서버를 증설하는 것을 Scale-out 이라고 하는데, 이 외에 서버의 성능을 향상시키는 Scale-up 이 있다.

서버를 증설하는 Scale-out 기법의 경우 서버들에게 걸리는 부하를 적절히 분배하기 위해 로드 밸런싱이 반드시 필요하다.

로드 밸런싱은 OSI 계층에 따라 L4, L7 으로 나뉜다.

L4

osi 4계층인 전송 계층에 사용되며, L4 로드 밸런서가 클라이언트의 요청을 받아 목적지의 IP주소, 포트를 기준으로 부하 분산 알고리즘에 따라 서버를 선택한다. TCP/IP 정보에 따라 부하 분산을 수행하기 때문에 4계층인 전송 계층에서 사용된다. 하지만 사용자의 IP 정보가 수시로 바뀌는 경우에는 연속적인 서비스 제공이 불가하다.

로드 밸런서 : 로드 밸런싱을 해주는 장치 또는 기술을 말한다.

L7

osi 7계층인 응용 계층에 사용되며, L4 에서 TCP/IP 정보에 따라 서버를 선택하는 것과 다르게 요청의 컨텐츠, 헤더 정보에 따라 서버를 선택한다. 컨텐츠에 따라 부하를 분산시키기 때문에 보다 다양한 서비스에 대해 제어가 가능하다는 점이 있다.

Load Balancing Algorithm

Round Robin

라운드 로빈은 받은 요청을 순서대로 로드 밸런싱 서버에 할당 받는 방식이다. 간단한 방식으로 동작하기 때문에 구현이 쉬우며, 서버의 추가 및 제거가 간편하다. 하지만 모든 서버가 같은 스펙을 가지고 있다고 가정하는 알고리즘이기에 서버의 스펙이 각기 다른 경우에는 효율이 떨어질 수 있다.

따라서 나온 방식이 가중 라운드 로빈 방식이다.

기존의 라운드 로빈방식과 유사하지만, 각각 서버에 가중치를 매겨 높은 서버부터 요청을 배분하는 방식이다. 서버의 트래픽 처리 능력이 각각 상이한 경우에 적절하다.

IP Hash

주로 L4 로드밸런싱에서 사용되며, 클라이언트의 IP 주소를 해싱해 서버를 선택하고, 해당 클라이언트의 요청을 모두 선택된 서버로 보낸다. 동일한 클라이언트의 요청은 동일한 서버로 전송되기에, 세션 일관성이 유지된다는 장점이 있다. 하지만, IP 주소로 분산되기 때문에, 일부 클라이언트가 다른 클라이언트보다 많은 부하를 받을 수 있다.

Least Connection

최소 연결 방식은 가장 적은 연결 수를 가진 서버를 선택해 클라이언트 요청을 처리하는 방식이다. 가장 적은 연결 수를 가진 서버를 선택하기 때문에 현재 서버의 상태에 따라 동적으로 분배되어 성능을 최적화 한다. 하지만 연결 수 만을 고려하기 때문에 실제 서버의 성능을 고려하지 않기 때문에 서버 간 성능 격차가 발생 할 수 있다.