[AWS] EKS Autoscaling

클라우드/AWS

[AWS] EKS Autoscaling - 5주차

Cloud_Park 2023. 5. 23. 21:49

이번 주차를 통해 기존 알고 있던 오토스케일에 in/out ( 인스턴스 수의 증가/감소)를 알고 있었는데 K8S에서도 동일하게 있지만 스케일 업이 있다는 것을 알게 되었고 가용성 측면에서 퍼블릭클라우드를 사용하면 이점 이 있을 것이라는 것을 학습하게 되었다.

실습환경도 편리하게 구축되어 있어 이전 블로그를 보지 않더라도 따라할 수 있으니 5주차는 꼭 실습 해보셨으면 좋겠습니다.

이론적인 내용은 리소스 /부하가 있으면 증량해준다는거라 동장 방식을 이해하고 늘어나는지 확인해보자

우선 실습 환경 구축

2023.05.23 - [클라우드/AWS] - [AWS] EKS Autoscaling - 5주차 -실습환경 배포

Kubernetes autoscaling overview

3가지 유형이 있다.

1. Horizontal Pod Autoscaling(HPA) : 스케일 인/아웃으로 수를 늘리는 방법

2. Vertical Pod Autoscaling (VPA) : 스케일 업 수는 유지되고 리소스를 늘리는 방법

CON324_Optimizing-Amazon-EKS-for-performance-and-cost-on-AWS.pdf

3. Cluster Autoscaling (CAS) : pending 인 pod가 있으면 워커노드를 늘려 running으로 변경하는 방법

- 3번의 기술로는 Karpenter 이라는 서비스로 사용하게 된다.

https://github.com/kubernetes/autoscaler

한번 더 설명하자면 아래 그림으로 쉽게 알아볼 수 있다.

워크로드 오토스케일

출처 : https://www.oreilly.com/library/view/production-kubernetes/9781492092292/ch01.html

Production Kubernetes

Chapter 1. A Path to Production Over the years, the world has experienced wide adoption of Kubernetes within organizations. Its popularity has unquestionably been accelerated by the proliferation of containerized … - Selection from Production Kubernetes

www.oreilly.com

Kubernetes autoscaling overview 를 구체적으로 설명

HPA 아키텍처 : cAdvisor 이 컨테이너의 메모리/CPU 수집 → metrics-server 는 kubelet 를 통해서 수집 후 apiserver 에 등록 → HPA는 apiserver(Resource API)를 통해서 15분 마다 메모리/CPU 수집하여 정책에 따라 동작

K8S의 기본으로 제공하는 객체로 파드 수를 늘려 각 파드의 부하를 줄 일 수 있게 오토스케일한다.

실습은 맨 아래

KEDA AutoScaler 소개 (이벤트 기반 )

HPA와 차이점 :기존의 HPA(Horizontal Pod Autoscaler)는 리소스(CPU, Memory) 메트릭을 기반으로 스케일 여부를 결정하게 됩니다. 반면에 KEDA는 특정 이벤트를 기반으로 스케일 여부를 결정할 수 있습니다. > 더 빠르게 확장 가능

예제 카프카

triggers:
- type: kafka
  metadata:
    bootstrapServers: kafka.svc:9092 # Comma separated list of Kafka brokers “hostname:port” to connect to for bootstrap.
    consumerGroup: my-group          # Name of the consumer group used for checking the offset on the topic and processing the related lag.
    topic: test-topic                # Name of the topic on which processing the offset lag. (Optional, see note below)
    lagThreshold: '5'                # Average target value to trigger scaling actions. (Default: 5, Optional)
    offsetResetPolicy: latest        # The offset reset policy for the consumer. (Values: latest, earliest, Default: latest, Optional)
    allowIdleConsumers: false        # When set to true, the number of replicas can exceed the number of partitions on a topic, allowing for idle consumers. (Default: false, Optional)
    scaleToZeroOnInvalidOffset: false 
    version: 1.0.0                   # Version of your Kafka brokers. See samara version (Default: 1.0.0, Optional)

실습 예제는 아래

VPA : Vertical Pod Autoscaler(스케일 업)

파드에 resource.limit ,request 값을 수정하여 최적의 값을 찾는데 도움

제약 조건으론 hpa와 같이 사용 불가/ 파드 수정이 필요하여 파드가 재기동 된다.

CA - Cluster Autoscaler

AWS 의 서비스를 활용하여 클러스터를 늘려 오토스케일을 하는 방식으로 오토스케일 그룹의 수를 변경한다.

https://catalog.us-east-1.prod.workshops.aws/workshops/9c0aa9ab-90a9-44a6-abe1-8dff360ae428/ko-KR/100-scaling/200-cluster-scaling

Cluster Autoscale 동작을 하기 위한 cluster-autoscaler 파드(디플로이먼트)를 배치합니다.

**Cluster Autoscaler(CA)**는 pending 상태인 파드가 존재할 경우, 워커 노드를 스케일 아웃합니다.

특정 시간을 간격으로 사용률을 확인하여 스케일 인/아웃을 수행합니다. 그리고 AWS에서는 Auto Scaling Group(ASG)을 사용하여 Cluster Autoscaler를 적용합니다.

실습은 맨 아래

CPA - Cluster Proportional Autoscaler

노드 수 증가에 비례하여 성능 처리가 필요한 애플리케이션(컨테이너/파드)를 수평으로 자동 확장 -> Daemonset 과 비슷해보이지만 다름

예를 들어 노드가 추가될 때마다 coredns pod개수 증가시켜, coredns부하를 줄일 수 있습니다. CPA를 사용하면 node개수가 2개일 때 coredns 1개를, node개수가 5개일 때 coredns를 3개 등을 설정할 수있습니다.

실습은 맨 아래

Karpenter : K8S Native AutoScaler & Fargate

오픈소스 노드 수명 주기 관리 솔루션, 몇 초 만에 컴퓨팅 리소스 제공 > 장점 빠르게 증량이 가능하다.

참고- 링크