전체 비유: 아파트 세대 수 조절#

스케일링을 아파트 세대 수 조절에 비유하면 이해하기 쉽습니다:

아파트 관리 비유Kubernetes역할
입주 수요에 따라 세대 수 조절스케일링트래픽에 따른 Pod 수 조정
세대 수 늘리기Horizontal Scaling (HPA)Pod 개수 증가
세대 크기 늘리기Vertical Scaling (VPA)Pod 리소스 증가
입주율 50% 초과 시 증축averageUtilization스케일링 기준 메트릭
최소 3세대 유지minReplicas최소 Pod 수
최대 10세대까지maxReplicas최대 Pod 수
증축은 빠르게, 감축은 천천히scaleUp/scaleDown 정책급격한 변화 방지
전기 사용량 측정기Metrics Server리소스 사용량 모니터링
성수기 자동 증축자동 스케일링부하에 따른 자동 조절

이처럼 HPA는 “입주 수요가 늘면 세대 수를 늘리고, 줄면 다시 줄이는” 자동 관리 시스템입니다.

대상 독자: Kubernetes에서 자동 스케일링을 구성하고 싶은 백엔드 개발자 선수 지식: Deployment, 리소스 관리 개념 소요 시간: 약 25-30분 이 문서를 읽으면: HPA와 VPA를 사용한 자동 스케일링 방법을 이해할 수 있습니다

TL;DR
  • HPA(Horizontal Pod Autoscaler)는 Pod 수를 자동으로 조정합니다
  • VPA(Vertical Pod Autoscaler)는 Pod의 리소스 요청을 자동으로 조정합니다
  • 대부분의 경우 HPA를 먼저 고려하세요

스케일링 방식 비교#

트래픽이 갑자기 10배 늘었는데, 운영자가 새벽에 일어나서 수동으로 Pod를 늘려야 한다면? 반대로 트래픽이 줄었는데 Pod가 그대로 돌아가면 비용만 낭비됩니다. 자동 스케일링은 이런 수동 개입 없이 부하에 따라 Pod 수나 리소스를 자동으로 조정해줍니다.

Kubernetes는 두 가지 스케일링 방식을 제공합니다.

방식설명적합한 경우
수평 스케일링 (HPA)Pod 수 조정Stateless 애플리케이션
수직 스케일링 (VPA)Pod 리소스 조정Stateful, 리소스 최적화
flowchart LR
    subgraph Horizontal[수평 스케일링]
        H1[Pod] --> H2[Pod]
        H2 --> H3[Pod]
    end
    subgraph Vertical[수직 스케일링]
        V1[Pod<br>256Mi] --> V2[Pod<br>512Mi]
    end

수평 스케일링(Pod 수 증가)과 수직 스케일링(Pod 리소스 증가)의 차이를 보여줍니다.

HPA (Horizontal Pod Autoscaler)#

HPA는 메트릭(CPU, 메모리, 커스텀)을 기반으로 Pod 수를 자동으로 조정합니다.

HPA 동작 원리#

flowchart LR
    MS[Metrics Server] -->|메트릭 수집| HPA
    HPA -->|현재 vs 목표| CALC[계산]
    CALC -->|스케일 결정| D[Deployment]
    D --> P1[Pod]
    D --> P2[Pod]
    D --> PN[Pod N]

HPA가 Metrics Server에서 메트릭을 수집하고 목표치와 비교하여 Deployment의 Pod 수를 조정하는 흐름을 보여줍니다.

HPA 동작 순서는 다음과 같습니다.

단계동작
1Metrics Server에서 현재 메트릭 수집 (15초 간격)
2목표 메트릭과 현재 메트릭 비교
3필요한 replicas 수 계산
4Deployment의 replicas 조정

HPA 생성#

명령어로 생성:

kubectl autoscale deployment my-app \
  --cpu-percent=50 \
  --min=2 \
  --max=10

YAML로 생성:

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: my-app-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: my-app
  minReplicas: 2
  maxReplicas: 10
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 50

주요 필드를 설명합니다.

필드설명
scaleTargetRef스케일링 대상 (Deployment 등)
minReplicas최소 Pod 수
maxReplicas최대 Pod 수
metrics스케일링 기준 메트릭
averageUtilization목표 사용률 (%)

복합 메트릭 HPA#

CPU와 메모리를 함께 고려하는 HPA입니다.

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: my-app-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: my-app
  minReplicas: 2
  maxReplicas: 10
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 50
  - type: Resource
    resource:
      name: memory
      target:
        type: Utilization
        averageUtilization: 70

여러 메트릭이 있을 때, 각 메트릭에서 계산된 replicas 중 가장 큰 값이 적용됩니다.

HPA 스케일링 계산#

HPA는 다음 공식으로 필요한 replicas를 계산합니다:

desiredReplicas = ceil(currentReplicas × (currentMetric / targetMetric))

예시는 다음과 같습니다.

현재 상태계산결과
3 Pods, CPU 70%, 목표 50%3 × (70/50) = 4.25 Pods
5 Pods, CPU 30%, 목표 50%5 × (30/50) = 33 Pods

스케일링 동작 제어#

급격한 스케일링을 방지하기 위한 설정입니다.

apiVersion: autoscaling/v2
kind: HorizontalPodAutoscaler
metadata:
  name: my-app-hpa
spec:
  scaleTargetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: my-app
  minReplicas: 2
  maxReplicas: 10
  behavior:
    scaleDown:
      stabilizationWindowSeconds: 300  # 5분간 안정화
      policies:
      - type: Percent
        value: 10
        periodSeconds: 60  # 1분마다 최대 10% 감소
    scaleUp:
      stabilizationWindowSeconds: 0
      policies:
      - type: Percent
        value: 100
        periodSeconds: 15  # 15초마다 최대 100% 증가
  metrics:
  - type: Resource
    resource:
      name: cpu
      target:
        type: Utilization
        averageUtilization: 50

스케일 업/다운 정책을 비교하면 다음과 같습니다.

항목Scale UpScale Down
속도빠르게천천히
이유트래픽 급증 대응불필요한 스케일 다운 방지

VPA (Vertical Pod Autoscaler)#

VPA는 Pod의 리소스 requests/limits를 자동으로 조정합니다.

VPA는 기본 설치되어 있지 않습니다
VPA는 별도로 설치해야 합니다. VPA GitHub을 참고하세요.

VPA 구성요소#

구성요소역할
Recommender리소스 사용량 분석, 권장 값 계산
UpdaterPod 재시작하여 새 리소스 적용
Admission Controller새 Pod 생성 시 리소스 주입

VPA 예시#

apiVersion: autoscaling.k8s.io/v1
kind: VerticalPodAutoscaler
metadata:
  name: my-app-vpa
spec:
  targetRef:
    apiVersion: apps/v1
    kind: Deployment
    name: my-app
  updatePolicy:
    updateMode: "Auto"  # Off, Initial, Recreate, Auto
  resourcePolicy:
    containerPolicies:
    - containerName: app
      minAllowed:
        memory: "128Mi"
        cpu: "100m"
      maxAllowed:
        memory: "2Gi"
        cpu: "2"

updateMode 옵션을 비교하면 다음과 같습니다.

모드동작
Off권장 값만 제공, 적용 안 함
Initial새 Pod 생성 시만 적용
Recreate기존 Pod 재시작하여 적용
Auto자동으로 가장 적합한 방식 선택

HPA vs VPA 선택 가이드#

어떤 스케일링을 선택해야 할까요? 다음 플로차트를 참고하세요.

flowchart TD
    START[스케일링 필요] --> Q1{애플리케이션<br>유형은?}

    Q1 -->|Stateless<br>웹서버, API| Q2{트래픽 변동이<br>큰가?}
    Q1 -->|Stateful<br>DB, 캐시| VPA_REC[VPA 권장]

    Q2 -->|Yes| HPA_REC[HPA 권장]
    Q2 -->|No| Q3{리소스 설정이<br>적절한가?}

    Q3 -->|모르겠다| VPA_OFF[VPA로 권장값 확인<br>updateMode: Off]
    Q3 -->|최적화 필요| VPA_REC

    HPA_REC --> Q4{리소스 설정도<br>최적화 필요?}
    Q4 -->|Yes| BOTH[HPA + VPA 병행<br>CPU는 HPA, 메모리는 VPA]
    Q4 -->|No| HPA_ONLY[HPA만 사용]

    VPA_REC --> VPA_ONLY[VPA 사용]
    VPA_OFF --> MANUAL[수동으로 설정 조정]

애플리케이션 유형과 상황에 따라 HPA, VPA, 또는 병행 사용을 선택하는 의사결정 흐름을 보여줍니다.

기준HPAVPA
Stateless 애플리케이션✓
Stateful 애플리케이션✓
트래픽 변동 대응✓
리소스 최적화✓
즉시 적용✓✗ (재시작 필요)

실제 선택 예시#

상황권장이유
REST API 서버, 트래픽 변동 큼HPAPod 수로 빠르게 대응
배치 작업 서버VPA리소스 사용량 최적화
DB 연결이 제한된 서버HPA (max 주의)Pod 수에 따른 연결 수 관리 필요
신규 서비스, 적정 리소스 모름VPA (Off 모드)권장 값 수집 후 설정
HPA와 VPA 함께 사용
HPA와 VPA를 동일한 Deployment에 함께 사용할 때는 주의가 필요합니다. VPA가 메모리만 조정하고 HPA가 CPU 기반으로 스케일링하도록 분리하는 것이 권장됩니다.

전제 조건#

HPA를 사용하려면 다음이 필요합니다.

요구사항설명
Metrics Server클러스터에 설치되어 있어야 함
리소스 requestsPod에 CPU/메모리 requests 설정 필요

Metrics Server 설치 확인#

# Metrics Server 동작 확인
kubectl top nodes
kubectl top pods

error: Metrics API not available 오류가 발생하면 Metrics Server를 설치하세요.

# Minikube
minikube addons enable metrics-server

# 기타 환경
kubectl apply -f https://github.com/kubernetes-sigs/metrics-server/releases/latest/download/components.yaml

실습: HPA 설정과 테스트#

테스트 애플리케이션 배포#

apiVersion: apps/v1
kind: Deployment
metadata:
  name: php-apache
spec:
  replicas: 1
  selector:
    matchLabels:
      app: php-apache
  template:
    metadata:
      labels:
        app: php-apache
    spec:
      containers:
      - name: php-apache
        image: k8s.gcr.io/hpa-example
        ports:
        - containerPort: 80
        resources:
          requests:
            cpu: 200m
          limits:
            cpu: 500m
---
apiVersion: v1
kind: Service
metadata:
  name: php-apache
spec:
  ports:
  - port: 80
  selector:
    app: php-apache

HPA 생성#

kubectl autoscale deployment php-apache --cpu-percent=50 --min=1 --max=10

부하 테스트#

새 터미널에서 부하를 생성합니다:

kubectl run -i --tty load-generator --rm --image=busybox --restart=Never \
  -- /bin/sh -c "while sleep 0.01; do wget -q -O- http://php-apache; done"

HPA 동작 확인#

# HPA 상태 모니터링
kubectl get hpa php-apache --watch

# 예상 출력:
# NAME         REFERENCE               TARGETS   MINPODS   MAXPODS   REPLICAS
# php-apache   Deployment/php-apache   0%/50%    1         10        1
# php-apache   Deployment/php-apache   250%/50%  1         10        1
# php-apache   Deployment/php-apache   250%/50%  1         10        5

부하 생성기를 중지하면(Ctrl+C) 잠시 후 Pod 수가 감소합니다.

다음 단계#

스케일링을 이해했다면 다음 단계로 진행하세요:

목표추천 문서
헬스 체크 설정헬스 체크
리소스 최적화리소스 최적화
실제 배포 실습Spring Boot 배포
Edit Edit this page
Backward 리소스 관리 헬스 체크 Forward