NVIDIA device plugin for Kubernetes

NVIDIA device plugin for Kubernetes

• kubernetes 환경에서 GPU사용시 NVIDIA device plugin daemonset을 설치해서 사용해야합니다.
• EKS에서는 EKS AMI를 참고해서 x86 accelerated AMI를 사용해야합니다.
• NVIDIA device plugin daemonset은 머신에 GPU가 없으면 실행되지않으니, Taints/Tolerations/Affinity을 사용하여 GPU머신에만 실행되도록 설정해야합니다.
• deployment, statefulset 정의시 resource에 아래의 코드처럼 GPU갯수를 지정해야합니다.

resources:
  limits:
    nvidia.com/gpu: 1

Install

helm을 사용하여 설치합니다.

$ helm repo add nvdp https://nvidia.github.io/k8s-device-plugin
$ helm repo update
$ helm install nvdp nvdp/nvidia-device-plugin -n nvidia-device-plugin --create-namespace

참고

GitHub - NVIDIA/k8s-device-plugin: NVIDIA device plugin for Kubernetes