GPU 인스턴스를 하나 켜면 시간당 2.5달러에서 4달러가 나간다. 이미지 생성 모델 하나 돌리고, 음성 인식 서버 올려두고, LLM 추론까지 하면 월 청구서가 순식간에 수백 달러를 넘긴다. 처음엔 "필요한 만큼만 쓰면 되지" 싶었는데, 실제로는 개발 중에 인스턴스를 까먹고 안 끄는 날이 태반이었다.
거기에 CI/CD 파이프라인(GitHub Actions 유료 플랜), 모니터링(Datadog이나 New Relic), 워크플로우 자동화(Zapier) 같은 SaaS까지 더하면 소규모 팀이라도 월 200~500달러는 기본으로 깔린다. 그래서 생각했다. 어차피 집에 PC 있는데, 직접 돌리면 안 되나?
지금 내 홈랩은 크게 두 파트로 나뉜다.
Intel NUC 클러스터에서 Kubernetes를 돌린다. Gitea(Git 서버 + 컨테이너 레지스트리), ArgoCD(GitOps CD), n8n(워크플로우 자동화), Loki+Grafana(로그 모니터링)가 여기서 운영된다. App of Apps 패턴으로 서비스 추가가 YAML 파일 하나면 끝나서, 지금까지 10개 넘는 서비스를 올려놨다.
Windows PC (RTX 5090)는 GPU가 필요한 작업 전담이다. WSL2 위에서 ComfyUI(이미지 생성), ASR 서버(음성 인식), 번역 서버(LLM 추론)를 돌린다. K8s 클러스터에서 Traefik 프록시를 통해 이 서비스에 접근하는 구조다.
감이 아니라 숫자로 비교해 보자.
AWS p4d.24xlarge(A100 8장)는 시간당 약 32달러, 단일 GPU인 g5.xlarge(A10G)도 시간당 1달러 이상이다. RTX 5090급 성능이 필요하면 시간당 2.5~4달러 수준을 잡아야 한다. 하루 8시간 사용 기준으로 월 600~960달러.
RTX 5090은 구매가가 약 300만원이다. 전기세를 넉넉잡아 월 5만원(450W TDP 기준, 하루 8시간)으로 계산하면 4~5개월이면 본전을 뽑는다. 그 이후로는 전기세만 나간다.
GitHub Actions Team 플랜은 사용자당 월 4달러에 CI 분수가 제한적이고, 초과하면 분당 과금된다. Gitea + act_runner 조합은 셀프호스팅이라 추가 비용이 0원이다. ArgoCD도 마찬가지. YAML 파일 커밋 한 번이면 자동 배포가 이루어지는 GitOps 체계를 공짜로 운영하고 있다.
Datadog은 호스트당 월 15~23달러에 로그 저장은 별도 과금이다. 5~6개 서비스를 모니터링하면 월 100달러는 훌쩍 넘긴다. 나는 Loki + Promtail + Grafana 조합을 쓰고 있다. 처음에 Prometheus 풀 스택을 올렸다가 NUC 리소스를 너무 잡아먹어서 걷어냈다. 실제로 내가 하는 건 문제 생겼을 때 로그 검색이 대부분이라 Loki면 충분했다. 비용? 0원이다.
Zapier Pro가 월 29달러(750 태스크), Make가 월 9달러(10,000 ops)인데 쓰다 보면 금방 한도에 걸린다. n8n은 셀프호스팅으로 태스크 무제한이다. K8s에 올려서 NFS로 다른 서비스와 파일을 공유하고, ArgoCD로 설정을 관리한다.
클라우드로 같은 구성을 돌리면 월 700~1,200달러 수준이 나온다. 홈랩 초기 투자(NUC 클러스터 약 100만원 + RTX 5090 약 300만원)를 감안해도 반년이면 손익분기를 넘기고, 그 뒤로는 전기세 월 5~8만원만 부담하면 된다. 연간으로 따지면 1,000만원 이상 차이가 벌어진다.
솔직히 비용 절감만 따지면 "그냥 클라우드 쓰면서 다른 걸로 돈 벌어"가 더 합리적일 수 있다. 홈랩의 진짜 가치는 다른 데 있었다.
실전 DevOps를 몸으로 익힌다. kubeadm으로 클러스터를 직접 구성하고, Cilium CNI를 선택하고, cert-manager로 TLS 인증서를 관리하고, Kustomize로 staging/production 오버레이를 나누는 과정은 회사에서 "이미 세팅된 EKS"를 쓰는 것과 전혀 다른 경험이다. PVC가 특정 노드에 바인딩되어 있어서 Pod이 다른 노드에 스케줄링되면 접근 불가 에러가 난다거나 하는 문제는 직접 겪어봐야 안다.
커스터마이징에 제한이 없다. NFS 공유 스토리지로 서비스 간 파일을 주고받거나, WSL2의 GPU 서비스를 K8s에서 프록시로 노출하는 식의 구성은 클라우드 매니지드 서비스에서는 하기 어렵거나 추가 비용이 든다. 내 인프라니까 뭘 해도 된다.
데이터가 내 손 안에 있다. Obsidian 노트, 워크플로우 데이터, 로그 전부 내 디스크에 저장된다. 서비스 종료 걱정도, 데이터 유출 걱정도 없다. n8n이 Zapier에 비해 특히 좋은 점이 이거다. 워크플로우 안에 API 키나 내부 URL이 들어가는데 그게 남의 서버에 있으면 찝찝하다.
장점만 늘어놓으면 장사꾼이다. 불편한 점도 분명히 있다.
전기세와 소음. RTX 5090이 풀로드 걸리면 450W를 먹는다. 여름에는 에어컨까지 돌려야 해서 전기세가 체감된다. NUC는 조용하지만 GPU 서버 팬 소리는 꽤 거슬린다. 거실에 두면 가족 민원이 들어온다.
유지보수는 전부 내 몫이다. 클라우드는 뭐가 고장 나면 서포트 티켓을 끊으면 된다. 홈랩은 새벽 3시에 디스크가 꽉 차도 내가 일어나서 고쳐야 한다. K8s 업그레이드도, 보안 패치도, 백업도 전부 내 책임이다.
초기 삽질 시간이 만만찮다. Gitea, ArgoCD, Loki, n8n을 하나하나 K8s에 올리고 서로 연결하는 데 2주 가까이 걸렸다. Syncthing PVC가 다른 노드에 스케줄링돼서 데이터를 못 읽는 문제, Promtail DaemonSet 권한 이슈, n8n NFS 파일 쓰기 제한 같은 삽질을 매일 했다. 이 시간을 시급으로 환산하면 솔직히 클라우드가 더 싸다.
비용만 놓고 보면 홈랩은 GPU 워크로드가 무거울수록 압도적으로 유리하다. RTX 5090 하나로 이미지 생성, 음성 인식, LLM 추론을 동시에 돌리는데 클라우드였으면 월 100만원은 나갔을 거다.
비용 외적으로 보면 "인프라를 코드로 관리하는 습관"이 가장 큰 수확이다. 홈랩 전체 인프라가 Git 저장소 하나에 들어가 있어서, 최악의 경우 노드가 전부 날아가도 git clone 한 번이면 복원할 수 있다. 이 경험은 회사에서 프로덕션 인프라를 다룰 때도 그대로 써먹는다.
"클라우드 쓰면 되는데 왜 삽질하냐"는 질문에 대한 내 대답은 이렇다. 삽질 그 자체가 공부고, 그 공부의 결과물이 매달 돈까지 아껴준다면 안 할 이유가 없다.