![]()
저번 시간에 만들었던 portainer를 보니 이거 CPU나 RAM 같은 정보는 보여주지만 GPU 지표는 보여주지 않는다. GPU 지표를 보기위해 NVIDIA DCGM Exporter를 도입하기로 했다. https://docs.nvidia.com/datacenter/dcgm/latest/gpu-telemetry/dcgm-exporter.html DCGM-Exporter — NVIDIA DCGM Documentation latest documentationIn this scenario the DCGM nv-hostengine runs in a separate container on the same host making its client port available to DCGM-Exporter as wel..
저번에는 k3s를 이용하여 마스터 노드 1개와 워커 노드 1개가 연결 된 환경을 만들어보았다. 이번 시간에는 CUDA나 GPU를 사용할 수 있는 환경을 구축해보고자 한다. GPU를 사용하기 위해서는 각 노드마다 NVIDIA Driver와 NVIDIA Container Toolkit을 설치하여야 한다. Ubuntu OS에서 k3s + NVIDIA GPU를 최초 설치하는 것으로 가정하고 진행한다. 1. NVIDIA Driver 설치 (모든 노드)https://starlane.tistory.com/18 [Linux] Ubuntu 24.04 NVIDIA 드라이버 + CUDA + cuDNN 설치하기설치 버전CUDA 12.8 + cuDNN 9.7.0설치 순서1. NVIDIA 드라이버 + CUDA 설치2. cuDNN..
![]()
이번 과제에서 서버를 여러대 사용할 일이 생겨 마침 쿠버네티스를 공부할 기회가 생겼다.목표는 기존에 온프레미스 환경에서 워크스테이션 1대로 돌아가던 프로그램을 GPU 서버에서 돌아가게 하는 것. 도커는 여러번 써봤지만 쿠버네티스는 이번에 처음 써보는 것이기 때문에 막연히 k8s를 바로 설치하면 되는가 했는데 좀 찾아보니 microk8s나 k3d, k3s, minikube 등 다양한 경량 배포판이 있었다. 결론부터 말하자면 나는 그 중에서 k3s를 선정했다. minikube는 프로덕션 용으론 적합하지 않다길래 패스 k3d는 k3s를 docker에 굴려서 사용하는 넘이라길래 docker 의존성을 가지고 싶지 않아서 패스 남은건 microk8s와 k3s였는데 microk8s는 snap을 써야한다는데 개인적으로..
