같은 H100인데 시간당 값이 2.2배, GPU 대여 5곳

글쓴이김성진·발행일2026년 8월 31일

모델 하나 돌려 보려는데 내 컴퓨터로는 안 된다는 걸 알게 됐다면, 다음 단계는 대개 GPU를 빌리는 것이다.

문제는 요금표를 열어 본 다음이다. 같은 이름의 GPU가 곳마다 다른 값으로 적혀 있고, 어느 쪽이 싼 건지 판단할 기준이 없다.

오늘 기준으로 실제 숫자를 옮겨 보면 이렇다. 엔비디아 H100 한 장이 시간당 1.99달러인 곳과 4.29달러인 곳이 동시에 열려 있다. 2.16배 차이다.

이 글은 AI 모델을 돌리려고 GPU 대여를 처음 알아보는 사람을 위한 것이다. 다섯 곳의 공개 요금표를 오늘 기준으로 그대로 옮기고, 그 2.16배가 어디서 생겼는지를 하나씩 뜯는다.

먼저 결론만 말하면, 그 격차는 GPU 성능 차이가 아니다. 누가 그 기계를 관리하느냐, 몇 장을 한꺼번에 빌리느냐, 며칠을 쓰기로 약속하느냐에서 나온다. 셋 다 요금표 옆에 작게 적혀 있어서 처음 보면 지나치기 쉽다.

같은 H100인데 시간당 1.99달러와 4.29달러

숫자부터 놓는다. 아래는 오늘 각 서비스의 공개 요금 페이지에 적혀 있는 H100 온디맨드 값이다.

맨 위와 맨 아래가 1.99달러와 4.29달러다.

하루 24시간 켜 두면 47.76달러와 102.96달러가 된다. 한 달을 꼬박 돌리면 1,432.80달러와 3,088.80달러다. 취미로 며칠 만져 보는 수준이면 차이가 커피 몇 잔이지만, 서비스에 붙여 두면 매달 1,656달러가 갈린다.

그런데 이 표를 그대로 읽고 제일 싼 칸을 고르면 틀린다. 같은 H100이라도 표에 적힌 조건이 서로 다르기 때문이다.

2.2배를 만든 건 성능이 아니라 등급이었다

가장 큰 갈림길은 누가 그 기계를 관리하느냐다. 런팟이 이 구조를 요금표에 그대로 드러내 놓았다.

런팟은 같은 GPU에 값을 두 줄로 적는다. 커뮤니티 클라우드와 시큐어 클라우드다.

둘의 차이는 런팟 공식 문서에 한 문장씩으로 적혀 있다.

시큐어 클라우드는 T3/T4 데이터센터에서 운영되며, 기업용·프로덕션 작업에 높은 신뢰성과 보안을 제공한다.

커뮤니티 클라우드는 검증된 안전한 P2P 방식으로 개별 컴퓨팅 제공자를 사용자와 연결하며, 경쟁력 있는 가격 옵션을 제공한다.

풀어 쓰면 이렇다. 시큐어는 데이터센터 사업자가 관리하는 기계고, 커뮤니티는 개인이나 소규모 사업자가 자기 기계를 내놓은 것이다. 런팟이 중간에서 검증은 하지만 관리 주체는 다르다.

여기서 초심자가 판단할 지점이 생긴다. 며칠 돌려 보고 결과만 받아 오는 실험이면 커뮤니티로 충분하다. 값이 최대 2.18배까지 싸다.

반대로 회사 데이터가 올라가거나 서비스가 그 위에서 돌면 시큐어 쪽이 맞다. 이건 값을 더 내고 사는 게 성능이 아니라 관리 주체와 데이터센터 등급이라는 뜻이다.

람다 — 여덟 장을 빌리면 한 장 값이 내려간다

람다는 반대 방향의 규칙을 쓴다. 같은 H100이라도 몇 장을 한꺼번에 빌리느냐로 장당 단가가 달라진다.

한 장에 4.29달러이던 H100이 여덟 장을 묶으면 장당 3.99달러가 된다. 장당 0.30달러, 약 7% 내려간다.

여덟 장이면 시간당 총액은 31.92달러다. 장당 값은 내려가지만 지갑에서 나가는 총액은 7.4배가 된다. “싸졌다”는 말이 “덜 낸다”는 뜻은 아니다.

람다의 A100 표에는 한 가지 함정이 더 있다. 1장·2장·4장 구성의 A100은 40GB이고, 8장 구성에만 80GB가 있다(장당 2.79달러). 메모리가 두 배 다른 물건이 같은 이름으로 표에 나란히 앉아 있는 것이다.

모델을 올릴 때 실제로 걸리는 건 GPU 개수가 아니라 메모리 총량이다. 40GB짜리 넉 장(160GB)과 80GB짜리 두 장(160GB)은 총량이 같아도 한 장에 안 들어가는 모델을 다룰 때 결과가 달라진다.

그리고 람다 요금표에는 이런 단서가 붙어 있다. 표시 가격에 세금(sales tax/VAT/GST)이 별도로 붙는다는 문장이다. 다른 곳들의 표기와 나란히 놓을 때 이 한 줄을 빼면 안 된다.

하이퍼스택 — 예약으로 넘어가면 계단이 한 번 더 있다

하이퍼스택은 온디맨드와 예약(reservation) 값을 따로 적어 둔다. 같은 GPU가 두 값을 갖는다는 점에서 런팟과 비슷하지만, 갈리는 기준이 등급이 아니라 약속한 기간이다.

30%와 15%로 두 갈래다. 30% 내려가는 칸이 더 많다.

하이퍼스택에서 눈여겨볼 건 요금표 바깥의 조건이다. 과금이 분 단위이고, 데이터 송수신(egress/ingress)이 무료로 적혀 있다. 스토리지는 시간당 1TB에 약 0.10달러 수준이고, 공인 IP가 시간당 0.00672043달러로 소수점 여덟 자리까지 적혀 있다.

이런 부수 항목은 GPU 단가에 가려 잘 안 보이는데, 학습 데이터를 수십 GB씩 넣고 빼는 작업이면 송수신 무료가 실제 청구서에서 GPU 단가만큼 크게 작용할 수 있다.

가장 싼 칸도 여기 있다. A6000 예약가 시간당 0.35달러다. 오늘 비교한 다섯 곳의 표 전체에서 가장 낮은 값이다.

투게더 — 며칠 쓰느냐가 단가를 정한다

투게더는 예약을 한 덩어리로 묶지 않고 기간별 계단으로 쪼개 놓았다. 값은 전부 GPU 한 장당 시간 단가다.

H100 기준으로 온디맨드 3.99달러가 181일 약정에서 3.19달러가 된다. 20.1% 내려간다.

계단은 91~180일에서 멈춘다. 그 뒤로는 181일 이상을 약속해도 값이 같다. 반년을 넘겨 약속해도 단가가 더 내려가지 않는다는 뜻이라, “더 길게 잡으면 더 싸지겠지”라고 생각하고 계약 기간을 늘릴 이유가 없다.

H200은 계단이 더 가파르다. 5.99달러에서 3.99달러까지, 33.4% 내려간다. 오늘 표에서 예약 할인 폭이 가장 큰 자리다.

투게더 표에는 값이 안 적힌 칸도 있다. GB200 NVL72, GB300 NVL72, HGX B300은 문의로만 남아 있다. 가장 최신 구성일수록 값이 공개돼 있지 않다는 뜻이고, 이건 다섯 곳 모두에 어느 정도 해당한다.

Vast.ai — 요금표가 아예 없는 쪽

다섯 곳 중 하나는 성격이 다르다. Vast.ai(배스트에이아이)에는 위 표들 같은 고정 요금표가 없다.

공개 페이지에 적힌 설명은 이렇다.

40여 개 데이터센터에 걸쳐 수요와 공급으로 가격이 정해진다.

여기가 직접 기계를 굴리는 회사가 아니라 빌려주는 사람과 빌리는 사람을 잇는 장터이기 때문이다. 68종이 넘는 GPU가 올라와 있고, 값은 그때그때 다르다.

과금 방식도 다르다. 초 단위로 청구하고 최소 사용 시간이 없다. 위 네 곳이 분 단위이거나 그보다 큰 단위인 것과 비교되는 지점이다.

빌리는 방식도 세 가지로 갈린다. 온디맨드, 인터럽터블(중간에 끊길 수 있는 대신 싼 방식), 리저브드다.

그래서 이 글에서 Vast.ai의 시간당 숫자는 쓰지 않는다. 공개 페이지에 고정 값이 없고, 지금 화면에서 본 값이 내일 그대로일 보장이 없다. 확인되지 않은 숫자를 표에 넣으면 표 전체가 못 믿을 물건이 된다.

대신 이렇게 정리해 두면 판단에는 충분하다. 값이 확실히 정해져 있어야 하는 사람에게는 맞지 않고, 값이 흔들려도 되니 바닥을 훑고 싶은 사람에게 맞는다.

초·분·시간 — 껐다 켜는 사람에게서 갈리는 값

과금 단위는 요금표에서 가장 작게 적히는데, 실제 청구서에서는 크게 작용한다.

이게 왜 중요한지는 쓰는 방식을 떠올리면 쉽다.

한 번 켜서 사흘 내리 학습을 돌리는 사람에게 초 단위와 분 단위는 아무 차이가 없다. 사흘은 어느 단위로 세도 사흘이다.

반대로 하루에 열 번씩 켰다 껐다 하면서 5분짜리 실험을 반복하는 사람에게는 다르다. 분 단위 과금에서 3분 20초를 쓰면 4분으로 올림될 수 있고, 그게 하루 열 번이면 매일 몇 분씩 안 쓴 시간에 값을 낸다.

송수신 무료도 같은 종류의 항목이다. 런팟과 하이퍼스택은 공개 문서에 무료라고 못 박아 뒀다. 나머지 세 곳은 오늘 확인한 공개 페이지에 해당 문구가 없어서, 이 글에서는 **“없다”가 아니라 “확인되지 않음”**으로 남긴다.

755기가를 올리려면 몇 장이 필요한가

숫자를 실제 상황에 대 보면 감이 잡힌다. 요즘 공개되는 큰 오픈 모델 하나를 예로 든다.

Z.AI가 공개한 GLM-5.3의 가중치는 허깅페이스 리포 기준 755.6GB다. 이미 회사가 절반으로 줄여서 배포한 크기다.

80GB짜리 GPU 한 장에 80GB가 들어간다고 단순 계산하면 가중치만 올리는 데 9.4장, 즉 열 장이 필요하다. 실제로는 대화 내용을 담아 두는 공간이 따로 들기 때문에 그보다 더 든다.

열 장을 시간당 값으로 환산하면 이렇게 된다.

가장 싼 조합과 가장 비싼 조합이 하루에 285.60달러와 957.60달러다. 3.35배 차이다.

여기서 개인이 얻어갈 결론은 분명하다. 이 크기의 모델은 “빌려서 잠깐 돌려 보는” 대상이 아니다. 하루만 켜 둬도 웬만한 월 구독료를 넘긴다. 이런 모델은 이미 누군가 올려 둔 것을 게이트웨이나 API로 쓰는 쪽이 현실적이다.

GPU를 직접 빌리는 게 맞는 경우는 따로 있다. 작은 모델을 파인튜닝하거나, 내 데이터가 밖으로 나가면 안 되거나, 실행 시간을 초 단위로 통제해야 하는 경우다.

작은 모델이면 표의 아래쪽을 봐야 한다

큰 모델 이야기만 하면 실제로 대부분이 서는 자리를 놓친다. 개인이 빌리는 GPU는 대개 표의 아래쪽이다.

RTX 4090이 시간당 0.34달러다. 하루 여덟 시간씩 한 달(30일) 쓰면 81.60달러다. 이 정도면 개인이 감당할 수 있는 범위에 들어온다.

다만 이 칸이 전부 커뮤니티 클라우드나 예약가라는 점은 같이 봐야 한다. 가장 싼 칸에 서려면 관리 주체가 개인이라는 조건이나, 기간을 미리 약속한다는 조건 중 하나를 받아들여야 한다. 공짜로 싸지는 자리는 표 어디에도 없다.

로컬 LLM 실행 도구들로 내 컴퓨터에서 먼저 돌려 보고, 메모리가 모자랄 때 이 표의 아래쪽부터 올라오는 순서가 안전하다.

SXM, PCIe, NVLink — 이름 뒤에 붙는 글자가 값을 정한다

위 표를 읽다 보면 같은 H100 뒤에 서로 다른 글자가 붙어 있는 걸 보게 된다. SXM, PCIe, NVLink다. 처음 보면 그냥 모델명 같지만, 요금표는 이걸 다른 상품으로 취급한다.

같은 서비스 안에서 이 글자만 바뀌었을 때 값이 어떻게 달라지는지 모아 보면 이렇다.

전부 SXM 쪽이 비싸다. 런팟 커뮤니티에서는 시간당 0.70달러, 람다에서는 1.00달러가 더 붙는다.

두 글자의 차이는 GPU가 컴퓨터에 꽂히는 방식이다. PCIe는 데스크톱 그래픽카드처럼 슬롯에 꽂는 형태고, SXM은 보드에 직접 얹는 전용 규격이다. NVLink는 그 위에 GPU끼리 서로 직접 이야기하게 붙여 주는 연결이다.

여기서 초심자가 알아야 할 실무 결론은 하나다. GPU 한 장으로 끝나는 작업이면 이 글자에 돈을 더 낼 이유가 거의 없다. 카드끼리 이야기할 일이 없으면 연결 방식이 좋아도 쓸 데가 없기 때문이다.

반대로 여러 장에 모델을 쪼개 올려야 하면 이야기가 달라진다. 장과 장 사이로 데이터가 계속 오가는 구조라, 연결이 느리면 GPU가 놀면서 기다린다. 앞에서 본 755기가짜리 모델처럼 열 장에 나눠 올리는 경우가 정확히 여기 해당한다.

A100에서도 같은 규칙이 보인다. 런팟 커뮤니티 기준 A100 80GB는 PCIe가 1.19달러, SXM이 1.39달러다. 시큐어에서는 1.39달러와 1.59달러다. 양쪽 모두 0.20달러씩 차이가 난다.

정리하면 이렇다. 한 장이면 PCIe, 여러 장을 묶어 하나처럼 쓸 거면 SXM. 이 한 줄만 알고 표를 다시 보면 후보가 절반으로 줄어든다.

스토리지는 GPU를 끈 뒤에도 센다

요금표를 볼 때 가장 자주 빠뜨리는 칸이 스토리지다. GPU는 끄면 값이 안 나가지만 디스크는 남아 있는 동안 계속 센다.

런팟이 이 구조를 가장 자세히 적어 뒀다.

여기서 눈에 걸리는 칸은 세 번째다. 볼륨 디스크는 GPU를 정지시켜 두면 값이 오히려 두 배가 된다. 실행 중 GB당 0.10달러, 정지 중 0.20달러다.

일부러 그렇게 만든 구조로 읽는 게 맞다. 자리를 잡아 두고 안 쓰는 상태를 비싸게 매기는 것이다. 실험이 끝났는데 “나중에 또 쓸지 모르니까” 하고 디스크를 남겨 두면, 안 쓰는 동안 더 많이 낸다.

앞의 GLM-5.3 예로 계산해 보면 감이 온다. 755.6GB를 네트워크 스토리지(1TB 미만, GB당 월 0.07달러)에 올려 두면 월 52.89달러다. GPU를 한 시간도 안 켜도 그만큼 나간다.

하이퍼스택은 스토리지를 시간당 1TB에 약 0.10달러로 적어 뒀다. 단위가 달라서 바로 비교가 안 되니, 서로 다른 곳을 견줄 때는 같은 단위로 바꿔 놓고 봐야 한다.

숫자 대신 문장만 적혀 있던 자리

이 글에서 채우지 못한 칸을 밝혀 둔다. 비교표는 빈칸을 감추는 순간부터 못 믿을 물건이 된다.

• Vast.ai의 시간당 요금 — 마켓플레이스라 공개 고정값이 없다. 지금 화면의 값을 옮겨 적어도 내일이면 다른 값이다.
• 람다와 투게더의 과금 단위 — 오늘 확인한 공개 요금 페이지에 초·분·시간 표기가 없었다.
• 람다·투게더·Vast.ai의 송수신 요금 — 같은 이유로 비워 뒀다.
• 최신 구성의 값 — 투게더의 GB200 NVL72, GB300 NVL72, HGX B300은 문의로만 적혀 있다.
• 무료 크레딧 — 런팟 요금 페이지에 명시적 안내가 없었다. 다른 곳도 확인하지 못했다.

“확인되지 않음”과 “없음”은 다른 말이다. 앞의 것은 내가 못 찾은 것이고, 뒤의 것은 없다고 단정하는 것이다. 이 글에서는 앞의 것만 썼다.

GPU 대여, 처음이면 이 순서로 정한다

정리해서 순서로 만들면 이렇게 된다.

GPU 대여는 요금표부터 보면 거의 틀린다. 순서가 반대라서 그렇다.

첫째, 필요한 메모리 총량부터 센다. GPU 개수가 아니라 GB다. 모델 파일 크기에 여유분을 더해 잡는다. 이 숫자가 정해지기 전에는 요금표를 봐도 의미가 없다.

둘째, 켜 두는 시간의 모양을 정한다. 한 번에 길게인지, 짧게 여러 번인지. 짧게 여러 번이면 과금 단위가 작은 곳이 유리하다.

셋째, 데이터가 어디까지 나가도 되는지를 정한다. 여기서 커뮤니티 클라우드를 쓸 수 있는지가 갈린다. 이 답이 “아무 데나 안 된다”면 최저가 칸 여러 개가 후보에서 빠진다.

넷째, 기간을 약속할 수 있는지 본다. 몇 달을 확실히 쓴다면 예약가가 15~30% 낮다. 확실하지 않은데 약속부터 하면 안 쓰는 날에도 낸다.

다섯째, 그다음에 요금표를 연다. 앞의 넷이 정해지면 볼 칸이 몇 개 안 남는다.

순서를 뒤집어서 요금표부터 열면 거의 항상 가장 싼 칸을 고르게 되고, 그 칸의 조건이 내 상황과 안 맞아서 나중에 옮기게 된다. 샌드박스를 고를 때도 같은 순서가 통했다.

그래서 어디서 빌려야 하나

다섯 곳을 상황별로 하나씩 배정하면 이렇게 된다.

개인 실험, 데이터가 민감하지 않다면 — 런팟 커뮤니티. RTX 4090이 시간당 0.34달러다. 오늘 표에서 개인이 실제로 서게 되는 가장 낮은 칸이다. 대신 기계 관리 주체가 개인이라는 조건이 붙는다.

회사 데이터가 올라가거나 서비스가 그 위에서 돈다면 — 런팟 시큐어나 하이퍼스택. 런팟 시큐어는 T3/T4 데이터센터라고 명시돼 있고, 하이퍼스택은 분 단위 과금에 송수신이 무료다.

몇 달을 확실히 쓴다면 — 하이퍼스택 예약이나 투게더 예약. 하이퍼스택은 예약으로 1530%, 투게더 H100은 181일 기준 20.1%가 내려간다. 단, 투게더의 계단은 91180일에서 멈추므로 그 이상으로 기간을 늘려 잡을 이유는 없다.

여러 장을 한 노드로 묶어 큰 모델을 돌린다면 — 람다. 8장 구성에서 장당 값이 내려가고, A100 80GB가 그 구성에만 있다. 표시가에 세금이 별도로 붙는다는 단서는 계산에 미리 넣어야 한다.

값이 흔들려도 되니 바닥을 훑고 싶다면 — Vast.ai. 초 단위 과금에 최소 시간이 없고, 끊길 수 있는 대신 싼 방식도 있다. 대신 이번 달과 다음 달의 청구서가 같을 거라고 기대하면 안 된다.

한 문장으로 줄이면 이렇다. GPU 대여에서 오늘 확인한 2.16배는 GPU가 만든 게 아니라 조건이 만든 값이다. 요금표에서 가장 먼저 봐야 할 것은 숫자가 아니라 그 숫자 옆에 작게 적힌 조건이고, 그 조건을 내 상황에 맞춰 지운 다음에 남는 칸이 실제 후보다.