[K8S] Resource Request, Limit이란?

요약

• K8S에서 Resource의 Request와 Limit은 컨테이너에 할당되는 CPU, Memory의 자원량을 의미합니다.
• Request는, 컨테이너 생성 시 필요한 자원량을 의미합니다.
• Limit은, 컨테이너가 이미 실행 중인 상태에서 추가 리소스가 필요한 경우에 사용할 수 있는 최대 자원량을 의미합니다.
  • 이때 주의할 점은, 반드시 Limit은 Request보다 같거나 커야한다는 것입니다.
  • Limit은 추가로 얼만큼의 리소스를 더 사용할 것인지가 아닌,
  • 컨테이너 생성 시 필요한 자원량과 추가로 사용할 자원량을 더한 최대 자원량을 의미하기 때문입니다.
• CPU와 Memory의 자원 단위는 아래와 같습니다.
  • CPU : Milicore (1,000 Milicore = 1Core)
  • Memory : Mbyte

K8S의 스케줄링이란?

• Kubernetes에서, Pod를 어느 Node에 배포할지 결정하는 것을 스케줄링이라고 합니다.
• Kubernetes 입장에서는 Pod에 필요한 자원의 양을 알아야,
• 해당 자원을 사용할 수 있는 Node에 Pod를 배포할 수 있게 됩니다.
  • Pod는 하나 이상의 Container로 구성되므로,
  • 스케줄링은 Pod의 모든 Container Request 양을 합친 값을 기준으로 진행됩니다.

Request 양을 초과 사용하면 어떻게 되는가?

• Pod가 Request 양을 초과하더라도 Limit 양을 넘지 않으면 문제가 발생하지 않습니다.
• 다만, Node의 자원이 부족할 경우에는 Request 양을 초과한 Pod는 퇴거(Eviction)의 대상이 되어, 다른 Node에 재배치됩니다.
• 만약 모든 Node의 자원이 부족하다면 이 Pod는 Pending 상태로 지속 됩니다.
  • 따라서, 서비스 운영 시 자원 부족에 따른 Pod의 재배치나 Pending 상태에 대응하기 위해
  • Replication을 설정하거나, 특정 Node에 Pod를 한정하여 배치하는 전략 등을 고려해야 합니다.

Limit 양을 초과하여 사용하면 어떻게 되는가?

• Pod가 Limit 양을 초과하면, Overcommitted 상태에 진입하게 됩니다.
  • Overcommitted 상태란, 실제 사용 가능한 물리적인 자원량보다 해당 Pod에 할당된 자원량이 많은 상태를 의미합니다.
• CPU가 Overcommitted 될 경우, CPU는 throttling을 통해 실제 CPU 사용량을 Request에 정의된 상태까지 낮추게 됩니다.
  • 예를 들어, Request가 100, Limit이 500인 경우, 현재 500으로 가동되고 있는 컨테이너의 CPU할당량을 100까지 낮추게 됩니다.
  • 그래도 Overcommitted 상태가 해결되지 않을 경우, 우선 순위에 따라서 운영중인 컨테이너를 강제 종료 시키게 됩니다.
• Memory가 Overcommitted 될 경우, 사용중인 메모리의 크기를 줄일 수는 없기 때문에, 우선 순위에 따라서 운영 중인 컨테이너를 강제 종료 시키게 됩니다.

Request와 Limit 양을 설정하지 않으면 어떻게 되는가?

• Request와 Limit 양을 설정하지 않으면, Node의 자원 전체를 사용할 수 있다는 의미와 같습니다.
• 개발 중에는 자원량을 설정하지 않아도 문제는 없지만,
• 운영 시에는 Request, Limit 양이 설정되지 않은 Pod는 정확한 스케줄링이 어렵습니다.
  • 한 Node에 Pod가 초과 배치될 수도 있고,
  • Node 자원 부족 시 퇴거 대상이 증가할 수도 있습니다.

ResourceQuota & LimitRange

• 쿠버네티스에서는 ResourceQuota를 사용해 네임스페이스별로 사용할 수 있는 리소스의 양을 지정하거나,

• LimitRange를 사용해 컨테이너마다 사용할 수 있는 리소스의 양을 지정할 수 있습니다.

• ResourceQuota

    apiVersion: v1
    kind: ResourceQuota
    metadata:
      name: example-resourcequota
    spec:
      hard:
        requests.cpu: "1"
        requests.memory: 1Gi
        limits.cpu: "2"
        limits.memory: 2Gi

  • Resource Quota는 네임스페이스별로 사용할 수 있는 리소스의 양을 지정합니다.
  • 위 yaml 파일은, example-resourcequota라는 네임스페이스의 리소스 양을 지정한 예제입니다.
  • requests.cpu : 네임스페이스 전체의 CPU Request 리소스 제한 값입니다.
  • requests.memory : 네임스페이스 전체의 Memory Request 리소스 제한 값입니다.
  • limits.cpu : 네임스페이스 전체의 CPU Limit 리소스 제한 값입니다.
  • limits.memory : 네임스페이스 전체의 Memory Limit 리소스 제한 값입니다.

• LimitRange

    apiVersion: v1
    kind: LimitRange
    metadata:
      name: example-limitrange
    spec:
      limits:
      - type: Container
        max:
          memory: 512Mi
          cpu: 1
        min:
          memory: 50Mi
          cpu: 100m
        default:
          memory: 128Mi
          cpu: 200m
        defaultRequest:
          memory: 64Mi
          cpu: 100m

  • Limit Range는 컨테이너 개별 자원의 사용 가능 범위를 지정합니다.
  • type : Container : 이 LimitRange는 컨테이너에 대한 제한을 정의합니다.
  • max : 컨테이너의 Limit을 지정할 경우, 설정 가능한 최대 값입니다.
  • min : 컨테이너의 Limit을 지정할 경우, 설정 가능한 최소 값입니다.
  • default : 컨테이너의 Limit 값에 대한 기본값을 정의합니다.
  • defaultRequest : 컨테이너의 Request 값에 대한 기본값을 정의합니다.

참고

• https://itchain.wordpress.com/2018/05/16/kubernetes-resource-request-limit/
• https://bcho.tistory.com/1291