Ollama GPU 사용 확인과 설정, ollama ps로 CPU/GPU 보는 법과 GPU 안 잡힐 때 해결 (CUDA_VISIBLE_DEVICES)

·
로컬 LLM
Ollama로 모델을 돌렸는데 답이 유난히 느리면, 대부분 GPU가 아니라 CPU에서 돌고 있는 경우다. 지난번 Qwen 3.8 실측 글을 쓸 때 학교 GPU 서버(RTX A6000)에서 Docker로 띄웠었는데, GPU 한 장만 붙이려다 컨테이너 안에서 GPU가 안 잡혀서 CUDA_VISIBLE_DEVICES로 돌려 막았었다. 이번에는 GPU 확인, 설정, 안 잡힐 때 해결 순서로 정리했다.Docker 없이 깔아 둔 서버 Ollama가 CPU로 돈 적이 있다. 답이 너무 느려서 알아챘다.기준은 Ollama 하드웨어 지원 문서와 FAQ, 문제 해결 문서고, 글 쓰는 시점 최신 버전은 v0.40.16(11월 10일 배포)이다. Ollama GPU 사용 확인, ollama ps의 PROCESSOR 열가장 빠..