dev

저번 시간에 만들었던 portainer를 보니 이거 CPU나 RAM 같은 정보는 보여주지만 GPU 지표는 보여주지 않는다. GPU 지표를 보기위해 NVIDIA DCGM Exporter를 도입하기로 했다. https://docs.nvidia.com/datacenter/dcgm/latest/gpu-telemetry/dcgm-exporter.html DCGM-Exporter — NVIDIA DCGM Documentation latest documentationIn this scenario the DCGM nv-hostengine runs in a separate container on the same host making its client port available to DCGM-Exporter as wel..

저번에는 k3s를 이용하여 마스터 노드 1개와 워커 노드 1개가 연결 된 환경을 만들어보았다. 이번 시간에는 CUDA나 GPU를 사용할 수 있는 환경을 구축해보고자 한다. GPU를 사용하기 위해서는 각 노드마다 NVIDIA Driver와 NVIDIA Container Toolkit을 설치하여야 한다. Ubuntu OS에서 k3s + NVIDIA GPU를 최초 설치하는 것으로 가정하고 진행한다. 1. NVIDIA Driver 설치 (모든 노드)https://starlane.tistory.com/18 [Linux] Ubuntu 24.04 NVIDIA 드라이버 + CUDA + cuDNN 설치하기설치 버전CUDA 12.8 + cuDNN 9.7.0설치 순서1. NVIDIA 드라이버 + CUDA 설치2. cuDNN..

이번 과제에서 서버를 여러대 사용할 일이 생겨 마침 쿠버네티스를 공부할 기회가 생겼다.목표는 기존에 온프레미스 환경에서 워크스테이션 1대로 돌아가던 프로그램을 GPU 서버에서 돌아가게 하는 것. 도커는 여러번 써봤지만 쿠버네티스는 이번에 처음 써보는 것이기 때문에 막연히 k8s를 바로 설치하면 되는가 했는데 좀 찾아보니 microk8s나 k3d, k3s, minikube 등 다양한 경량 배포판이 있었다. 결론부터 말하자면 나는 그 중에서 k3s를 선정했다. minikube는 프로덕션 용으론 적합하지 않다길래 패스 k3d는 k3s를 docker에 굴려서 사용하는 넘이라길래 docker 의존성을 가지고 싶지 않아서 패스 남은건 microk8s와 k3s였는데 microk8s는 snap을 써야한다는데 개인적으로..

설치 버전CUDA 12.8 + cuDNN 9.7.0설치 순서1. NVIDIA 드라이버 + CUDA 설치2. cuDNN 설치 1.  NVIDIA 드라이버 설치 + CUDA 설치1) 사전 설치 요소sudo apt update && upgrade -ysudo apt install build-essential gcc make ubuntu-drivers-common dkms vim nvidia-modprobe2) CLI 전환NVIDIA 드라이버 + CUDA Toolkit을 설치하기 전에 GUI를 끌 것sudo systemctl isolate multi-user.target3) Nouveau 비활성화# nouveau 드라이버를 블랙리스트에 추가sudo bash -c "echo blacklist nouveau > /..

https://arxiv.org/abs/2502.12524 YOLOv12: Attention-Centric Real-Time Object DetectorsEnhancing the network architecture of the YOLO framework has been crucial for a long time, but has focused on CNN-based improvements despite the proven superiority of attention mechanisms in modeling capabilities. This is because attention-based models canarxiv.orghttps://docs.ultralytics.com/models/yolo12/ YOL..

최근 Jetson Orin Nano Super가 발표되면서 Jetpack을 업그레이드하면 기존 Orin Nano도 MAXN 모드를 구동시킬 수 있게 되었다. 필자도 성능 테스트도 해볼겸 Jetpack 6.1 (rev1)으로 업그레이드 했는데 Pinmux를 쉽게 설정해주는 jetson-io가 제대로 작동하지 않는 버그가 있어서 업그레이드를 보류했었다. (스프레드시트를 통해 수동으로 설정해주는 방법도 있지만 굳이 건드리고 싶지 않아서 시도해보진 않았다.)  그런데 이번에 Jetpack 6.2에서 해당 버그가 수정되었다고 하여 업그레이드를 하니 libgpiod는 멀쩡한데 Jetson.GPIO를 사용할 때 아래와 같은 에러가 발생했다.python3 -c "import Jetson.GPIO as GPIO; pri..

개요YOLO와 같은 모델을 학습하기 위해 데이터셋을 준비하는 과정에서 라벨 수 백, 수 천개를 치는 과정은 너무 귀찮고 손이 아프다. 이러한 번거로운 과정을 오토라벨링을 통해 조금이라도 단축시킬 수 있다면 어떨까? https://github.com/seblful/label-studio-yolov8-backend 그 방법은 바로 위 yolov8 backend 코드를 docker compose를 통해 실행시켜서 Label Studio에 사용하는 것이다. 준비물당연하겠지만 Label Studio 서버GitDocker설치1. git clonegit clone https://github.com/seblful/label-studio-yolov8-backend.gitcd label-studio-yolov8-backe..

https://www.ultralytics.com/ko/blog/ultralytics-yolo11-has-arrived-redefine-whats-possible-in-ai Ultralytics YOLO11 Has Arrived! Redefine What's Possible in AI! by Abirami VinaLearn all about the groundbreaking features of Ultralytics YOLO11, our latest AI model redefining computer vision with unmatched accuracy and efficiency.www.ultralytics.com https://www.youtube.com/live/rfI5vOo3-_A?t=5903&s..

https://arxiv.org/abs/2410.02073 Depth Pro: Sharp Monocular Metric Depth in Less Than a SecondWe present a foundation model for zero-shot metric monocular depth estimation. Our model, Depth Pro, synthesizes high-resolution depth maps with unparalleled sharpness and high-frequency details. The predictions are metric, with absolute scale, without relarxiv.org https://venturebeat.com/ai/apple-relea..

필요사항Jetpack6가 설치된 Jetson 디바이스설치방법wget https://github.com/suffolk066/pyside6-on-jetson/blob/main/install.shbash install.sh 일단은 현재 보유중인 Orin Nano 2대와 AGX Orin 에서는 문제없이 작동했는데 Jetpack6가 업데이트 되거나 하면 변경해야할 수도 있다.