같은 AI 모델인데 값이 11배? 게이트웨이 5곳 비교

글쓴이김성진·발행일2026년 8월 18일

이 글은 누구에게 필요한가

완전히 같은 모델을 부르는데, 어디를 거치느냐에 따라 입력 요금이 11.7배 벌어졌습니다.

만들고 있는 앱에 AI 기능을 붙여야 하는데 요금 페이지를 여러 개 띄워 놓고 어디가 싼지 못 고르고 있다면, 이 글이 그 자리에 있습니다.

먼저 용어부터 풀겠습니다. 여기서 말하는 AI 모델 게이트웨이는 챗GPT나 클로드 같은 완성된 채팅 서비스가 아닙니다. 내가 만든 프로그램이 코드로 AI를 불러 쓸 수 있게 열어 주는 창구입니다. 그리고 오픈 모델은 누구나 내려받아 돌릴 수 있게 공개된 모델이라, 여러 회사가 같은 모델을 각자 서버에 올려놓고 판다는 뜻입니다.

여기서 이 글의 출발점이 나옵니다. 같은 물건을 여러 가게가 파는데, 가격표가 제각각인 겁니다.

2026년 8월 18일 기준으로 오픈AI가 공개한 gpt-oss-120b를 오픈라우터에서 조회하니 이걸 파는 곳이 20군데였습니다. 그리고 100만 토큰(대략 단어 조각 100만 개)을 입력할 때 값이 이렇게 갈렸습니다.

같은 모델, 같은 이름, 같은 날짜인데 11.7배입니다.

그래서 이 글은 “어디가 제일 싼가”만 보지 않습니다. 왜 이렇게 벌어지는지를 먼저 풀고, 그다음에 게이트웨이 5곳을 하나씩 뜯어 상황별로 어디를 골라야 하는지 정합니다. 싼 데는 싼 이유가 있고, 그 이유를 모르고 고르면 나중에 품질 문제로 되돌아오기 때문입니다.

이 글에서 다루는 게이트웨이 5곳은 오픈라우터, 투게더AI, 파이어웍스AI, 그록, 클라우드플레어 워커스AI입니다.

결론부터: 상황별 승자

전체를 다 읽을 시간이 없다면 이 표만 보셔도 됩니다.

한 줄로 줄이면 이렇습니다. 탐색과 절약은 오픈라우터, 무료 시작은 클라우드플레어, 속도는 그록, 대량 운영은 투게더·파이어웍스입니다.

AI 모델 게이트웨이가 정확히 뭔가요

이 단락은 완전히 처음 듣는 분을 위한 것입니다. 이미 아신다면 다음 절로 넘어가셔도 됩니다.

AI 모델을 프로그램에서 쓰려면 두 가지가 필요합니다. 모델이 올라가 있는 컴퓨터(GPU), 그리고 그 컴퓨터에 말을 거는 주소와 열쇠(API 키) 입니다.

GPU를 직접 사서 모델을 올리는 방법도 있습니다. 하지만 큰 모델 하나를 돌리려면 수천만 원짜리 카드가 여러 장 필요하고, 안 쓰는 시간에도 전기가 나갑니다. 그래서 대부분은 남의 GPU를 빌려 쓰고, 쓴 만큼만 냅니다.

그 “쓴 만큼”의 단위가 토큰입니다. 토큰은 글자를 잘게 자른 조각입니다. 영어는 대략 단어 하나가 1~2토큰이고, 한국어는 같은 길이라도 토큰이 더 많이 나옵니다. 그래서 요금표가 전부 “100만 토큰당 몇 달러”로 적혀 있습니다.

그리고 요금은 입력과 출력이 따로 붙습니다. 내가 보낸 질문이 입력, AI가 써 준 답이 출력입니다. 거의 모든 곳에서 출력이 입력보다 몇 배 비쌉니다. 답을 만드는 계산이 훨씬 무겁기 때문입니다.

여기까지가 공통이고, 이제 다섯 곳이 갈라집니다. 크게 두 종류입니다.

중개형은 자기 GPU가 없거나 적고, 여러 회사의 창구를 하나로 묶어 줍니다. 오픈라우터가 여기입니다. 직접 호스팅형은 자기가 GPU를 굴려 직접 서비스합니다. 투게더AI·파이어웍스AI·그록·클라우드플레어가 여기입니다.

중개형은 선택지가 넓고 갈아타기가 쉽습니다. 직접 호스팅형은 그 회사가 책임지는 만큼 성능과 안정성을 약속하기 좋습니다.

왜 같은 모델인데 11배가 벌어지나

여기가 이 글에서 제일 중요한 부분입니다. 단가표만 보고 제일 싼 곳을 고르면 안 되는 이유이기 때문입니다.

이유 1: 정밀도를 깎았습니다

모델은 숫자 덩어리입니다. 그 숫자를 얼마나 촘촘하게 저장하느냐를 양자화(정밀도) 라고 부릅니다.

원본에 가까운 것부터 bf16·fp16(16비트), fp8(8비트), fp4(4비트) 순으로 거칠어집니다. 숫자를 거칠게 저장할수록 메모리를 덜 쓰고 계산이 빨라져서 원가가 내려갑니다. 대신 답의 미세한 품질이 떨어질 수 있습니다.

문제는 모델 이름이 똑같다는 것입니다. gpt-oss-120b라고만 적혀 있지, 그게 4비트로 깎인 건지 원본인지는 이름에 안 나옵니다.

실제로 조회한 값이 이렇습니다.

여기서 진짜로 눈여겨볼 줄은 가운데입니다. 최저가인 코어위브는 4비트로 깎은 판이고, 거기서 0.007달러만 더 내면 딥인프라의 원본급 16비트를 씁니다. 즉 “제일 싼 것”과 “제일 싸면서 정밀도까지 온전한 것”이 다릅니다.

같은 값에 정밀도가 갈리는 경우도 있습니다. DeepSeek V4 Pro 0813을 파는 9곳 중 여섯 곳이 똑같이 입력 1.320달러를 받는데, 베이스텐은 4비트, 실리콘플로우와 노비타는 8비트입니다. 값이 같다면 정밀도가 높은 쪽을 고르는 게 이득입니다.

이유 2: 속도와 안정성 값이 섞여 있습니다

세레브라스가 제일 비싼 데는 이유가 있습니다. 이런 회사들은 추론 전용 하드웨어를 직접 만들어서, 같은 모델을 훨씬 빠르게 돌립니다.

그록도 같은 계열입니다. 그록은 LPU라는 추론 전용 칩을 자체 설계했고, 최근 3억 5,000만 달러 규모 시리즈 A를 마감했다고 공식 홈페이지에 밝히고 있습니다.

응답 속도가 서비스 품질에 직결되는 경우가 있습니다. 음성 대화, 실시간 자동완성, 사용자가 화면 앞에서 기다리는 기능이 그렇습니다. 이럴 땐 토큰 단가가 조금 비싸도 그게 맞는 선택입니다.

반대로 밤에 몰아서 돌리는 배치 작업이면 속도에 돈을 낼 이유가 없습니다.

이유 3: 청구되지 않는 구간이 다릅니다

같은 단가라도 뭘 세느냐가 다르면 청구서가 달라집니다. 두 가지가 큽니다.

캐시 입력은 같은 앞부분을 반복해서 보낼 때 할인해 주는 제도입니다. 챗봇은 매 요청마다 긴 지시문을 앞에 붙이는데, 이 부분이 반복이라 할인 대상이 됩니다.

투게더AI 공식 요금표에서 DeepSeek V4 Pro 0813은 입력 1.32달러인데 캐시 입력은 0.13달러입니다. 약 10분의 1입니다.

같은 모델을 클라우드플레어에서 보면 입력은 똑같이 1.320달러인데 캐시 입력이 0.044달러입니다. 투게더보다도 낮습니다. 지시문이 긴 서비스라면 이 한 줄이 월 청구서를 바꿉니다.

배치는 급하지 않은 작업을 모아서 싸게 처리해 주는 제도입니다. 투게더AI는 요금표에 배치 전용 가격 열을 따로 두고 있고, 그록도 배치 처리 티어를 문서에 두고 있습니다.

게이트웨이 5곳 하나씩 보기

1. 오픈라우터 — 모델을 갈아 끼우는 곳

한 줄 요약: API 하나로 414개 모델. 코드를 안 고치고 모델 이름만 바꿉니다.

2026년 8월 18일에 공식 모델 API를 직접 조회한 결과 414개 모델이 올라와 있었고, 그중 17개는 항상 무료로 열려 있는 모델이었습니다. 모델을 만든 곳 기준으로는 60곳의 모델이 섞여 있습니다.

여기가 다른 넷과 근본적으로 다른 점은 자기 값을 매기지 않는다는 것입니다. 공식 문서가 이렇게 밝힙니다. 추론 가격은 공급사 가격을 그대로 통과시키고 마크업이 없으며, 대신 크레딧을 충전할 때 수수료를 받습니다. 자기 API 키를 가져와 쓰는 방식(BYOK)에는 플랜별 무료 허용량이 있고 그걸 넘으면 수수료가 붙습니다.

가장 실용적인 기능은 라우팅 변형입니다. 모델 이름 뒤에 접미사를 붙이면 어디로 보낼지가 바뀝니다.

앞에서 본 11.7배 차이를 손으로 비교하지 않고 :floor 하나로 처리할 수 있다는 뜻입니다. 다만 그렇게 하면 4비트로 깎인 공급사에 배정될 수 있다는 것도 같이 기억해 두셔야 합니다.

한도는 두 종류로 나뉩니다. 크레딧 한도는 얼마나 쓸 수 있는지이고 GET /api/v1/key의 limit_remaining으로 확인합니다. 요청 한도는 얼마나 자주 부를 수 있는지이고 에러 응답의 X-RateLimit-* 헤더에 나옵니다.

주의할 점 하나. 공식 문서가 계정이나 API 키를 여러 개 만들어도 한도가 늘지 않는다고 못박고 있습니다. 용량을 전역으로 관리하기 때문입니다. 다만 모델마다 한도가 달라서, 모델을 나눠 쓰는 방식으로는 부하를 분산할 수 있다고 안내합니다.

이럴 때 고르세요: 어떤 모델이 내 일에 맞는지 아직 모를 때. 모델 교체를 자주 할 때. 비용 최저가를 자동으로 좇고 싶을 때.

이럴 땐 피하세요: 공급사가 자동으로 바뀌는 게 곤란한 경우. 규제나 계약 때문에 데이터가 지나는 회사를 특정해야 하는 경우.

2. 투게더AI — 요금표가 가장 투명한 곳

한 줄 요약: 모델별 가격이 전부 공개돼 있고, 캐시·배치 할인까지 표에 같이 적혀 있습니다.

공식 요금 페이지를 직접 확인한 값입니다. 표에 입력·캐시 입력·배치 가격이 한 줄에 같이 나옵니다.

(단위는 전부 100만 토큰당입니다.)

이 표에서 읽어야 할 건 개별 숫자가 아니라 폭입니다. 제일 싼 모델과 제일 비싼 모델의 출력 요금이 0.25달러와 15.00달러로 60배 차이입니다. 모델을 잘 고르는 것이 공급사를 잘 고르는 것보다 훨씬 크게 먹힌다는 뜻입니다.

투게더AI는 규모가 커졌을 때 올라갈 계단도 같이 갖고 있습니다. 서버리스 추론에서 시작해서, 처리량을 미리 확보하는 방식, 전용 추론 서버, GPU 클러스터, 그리고 파인튜닝과 샌드박스까지 같은 계정 안에 있습니다.

이럴 때 고르세요: 쓸 모델이 이미 정해졌고 그걸 오래 굴릴 때. 비용을 미리 정확히 계산해야 할 때. 나중에 전용 서버로 올라갈 계획이 있을 때.

3. 파이어웍스AI — 티어와 파인튜닝이 강한 곳

한 줄 요약: 같은 모델을 속도 등급별로 나눠 팔고, 파인튜닝 요금이 공개돼 있습니다.

가입하면 1달러 무료 크레딧을 줍니다. 서버리스 추론은 토큰당 과금이고, 콜드 스타트(처음 부를 때 뜨는 데 걸리는 시간)가 없으며 후불 청구라고 공식 페이지가 밝히고 있습니다.

특징은 서버리스를 표준·우선·고속 세 등급으로 나눠 판다는 점입니다. 같은 모델이라도 얼마나 빨리 답을 받을지에 따라 값이 달라집니다.

임베딩(문장을 숫자 배열로 바꾸는 작업) 값이 공개돼 있는 것도 특이합니다. 검색 기능을 붙일 때 필요한 부분입니다.

파인튜닝(내 데이터로 모델을 다시 가르치는 것) 요금도 표로 공개돼 있습니다. 학습 토큰 100만 개당 값입니다.

그리고 파인튜닝한 모델을 원본 모델과 같은 값에 서빙한다고 명시하고 있습니다. 내 데이터로 손본 모델을 쓸 때 추가 요금이 안 붙는다는 뜻이라, 파인튜닝을 실제로 할 생각이라면 이 한 줄이 큽니다.

이럴 때 고르세요: 내 데이터로 모델을 손볼 계획이 있을 때. 검색용 임베딩까지 한 곳에서 해결하고 싶을 때. 속도 등급을 골라 쓰고 싶을 때.

4. 그록 — 속도를 사는 곳

한 줄 요약: 추론 전용 칩을 직접 만들어 씁니다. 빠른 응답이 필요한 기능에 맞습니다.

그록은 다른 넷과 결이 다릅니다. 남의 GPU를 빌리는 게 아니라 LPU라는 추론 전용 칩을 자체 설계했습니다. 공식 홈페이지는 이제 LPX가 엔비디아의 차세대 GPU와 함께 동작한다고 설명하고, 3억 5,000만 달러 시리즈 A를 마감했다고 밝히고 있습니다.

한 가지 짚어야 할 점이 있습니다. 2026년 8월 18일 기준으로 그록 공식 가격 페이지에는 모델별 토큰 단가가 게시돼 있지 않았습니다. 페이지가 인프라 소개 중심으로 바뀌어 있어서, 값을 확인하려면 콘솔에 들어가야 합니다.

다만 오픈라우터에 연결된 그록 엔드포인트 기준으로는 gpt-oss-120b가 입력 0.150달러 · 출력 0.600달러입니다. 오픈라우터가 마크업 없이 공급사 가격을 그대로 통과시킨다고 밝히고 있으니, 이 값이 그록 자체 단가와 같은 수준이라고 보시면 됩니다. 이는 20개 공급사 중 중간대이고, 최저가인 코어위브의 5배입니다.

속도에 5배를 낼 가치가 있냐가 판단 지점입니다. 사용자가 화면 앞에서 기다리는 기능이면 있습니다. 밤에 돌리는 배치면 없습니다.

문서에는 성능 티어, 유연 처리(Flex Processing), 배치 처리가 나뉘어 있어서 급한 것과 안 급한 것을 나눠 보낼 수 있게 돼 있습니다.

이럴 때 고르세요: 음성 대화, 실시간 자동완성, 대기 시간이 곧 이탈로 이어지는 기능.

이럴 땐 피하세요: 값을 미리 정확히 계산해 두어야 하는데 공개 가격표가 필요한 경우.

5. 클라우드플레어 워커스AI — 무료로 시작하는 곳

한 줄 요약: 매일 무료 할당이 다시 채워집니다. 돈 안 쓰고 오래 테스트할 수 있는 유일한 선택지입니다.

여기는 과금 단위부터 다릅니다. 토큰이 아니라 뉴런이라는 자체 단위를 쓰고, 1,000뉴런당 0.011달러입니다. 그리고 모델마다 “100만 토큰이 몇 뉴런인지”를 공개하고 있어서, 결국 달러 단가로 환산된 표가 함께 제공됩니다.

가장 중요한 건 이 한 줄입니다. 하루 10,000뉴런이 무료이고, 매일 UTC 0시에 리셋됩니다. 무료 플랜과 유료 플랜 양쪽 다 이 할당을 받습니다.

이게 실제로 얼마나 되는지 환산해 보면 체감이 확 달라집니다. 공개된 뉴런 환산값으로 계산한 결과입니다.

가벼운 모델을 고르면 매일 수백만 토큰을 공짜로 쓸 수 있다는 뜻입니다. 개인 프로젝트나 사이드 프로젝트 수준이면 여기서 안 넘어가는 경우가 많습니다.

모델별 달러 단가도 공개돼 있습니다.

여기서도 정밀도 이야기가 그대로 반복됩니다. 같은 llama-3.1-8b-instruct인데 압축한 판(awq)이 입력 0.123달러, 원본판이 0.282달러로 2.3배 차이입니다. 클라우드플레어는 이걸 모델 이름에 붙여서 구분해 놓았습니다. 무엇을 사는지 이름만 봐도 안다는 점에서는 이쪽이 더 친절합니다.

한 가지 제약이 있습니다. 일부 모델은 무료 플랜으로 못 씁니다. 공식 문서가 지목한 모델은 kimi-k2.6, kimi-k2.7-code, glm-5.2, deepseek-v4-flash-0731, deepseek-v4-pro-0813입니다. 이들은 유료 플랜이나 선불 크레딧이 필요합니다.

그리고 gpt-oss-120b가 0.350달러로 20개 공급사 중 가장 비싼 축이라는 것도 같이 봐야 합니다. 즉 클라우드플레어는 “무료로 시작하기”에 강하고, “대량으로 싸게”에는 강하지 않습니다.

이럴 때 고르세요: 아직 돈을 쓰기 싫을 때. 이미 클라우드플레어 워커를 쓰고 있을 때. 가벼운 모델로 충분한 기능일 때.

내 경우 얼마 나올까 — 실제 사용량으로 환산

단가만 보면 감이 안 옵니다. 그래서 흔한 챗봇 하나를 가정해서 계산해 보겠습니다.

가정: 요청 한 번에 입력 2,000토큰(지시문 + 질문), 출력 500토큰(답변). 하루 1,000번 호출.

그러면 하루에 입력 200만 토큰, 출력 50만 토큰입니다. 모델은 gpt-oss-120b로 고정하고, 앞에서 조회한 단가를 그대로 곱한 결과입니다.

한 달에 4.35달러와 32.25달러입니다. 같은 모델, 같은 사용량인데 7.4배입니다.

그런데 이 표에서 진짜로 봐야 할 줄은 1번과 2번의 차이입니다. 0.42달러만 더 내면 4비트로 깎인 판 대신 원본급 정밀도를 씁니다. 한 달에 500원도 안 되는 차이로 품질 변수를 하나 지우는 겁니다.

반대로 규모가 작으면 결론이 뒤집힙니다. 하루 호출이 1,000번이 아니라 30번이라면, 가벼운 모델을 골라 클라우드플레어 무료 할당 안에서 끝낼 수 있습니다. 그러면 월 0달러입니다.

즉 정답이 규모에 따라 갈립니다. 작으면 무료 할당, 크면 최저가 라우팅입니다.

고를 때 확인할 것 다섯 가지

1. 모델 이름 옆의 정밀도를 보세요. fp4인지 bf16인지가 안 적혀 있으면 물어보거나 다른 곳을 보세요. 이름이 같아도 같은 물건이 아닙니다.
2. 캐시 입력 값이 있는지 보세요. 지시문이 긴 챗봇이면 여기서 청구서가 절반 밑으로 떨어질 수 있습니다.
3. 무료 한도가 일회성인지 매일인지 보세요. 파이어웍스의 1달러는 한 번이고, 클라우드플레어의 10,000뉴런은 매일입니다. 성격이 완전히 다릅니다.
4. 속도가 실제로 필요한 기능인지 정하세요. 사용자가 기다리는 화면이 아니면 속도에 돈을 낼 이유가 없습니다.
5. 갈아탈 수 있게 짜세요. 다섯 곳 대부분이 오픈AI 호환 형식을 지원합니다. 주소와 키만 바꿔 끼울 수 있게 코드를 감싸 두면, 나중에 요금이 바뀌어도 하루면 옮깁니다.

자주 묻는 질문

Q. 오픈라우터를 거치면 더 비싸지 않나요?

추론 단가에는 마크업이 없다고 공식 문서가 밝히고 있습니다. 대신 크레딧을 충전할 때 수수료가 붙고, 자기 키를 가져와 쓰는 경우 무료 허용량을 넘으면 수수료가 있습니다. 정확한 요율은 플랜과 결제 수단에 따라 다르니 결제 전에 요금 페이지에서 직접 확인하세요.

Q. 제일 싼 데로 자동으로 보내면 되는 거 아닌가요?

:floor를 붙이면 그렇게 됩니다. 다만 그 경로가 4비트로 깎인 공급사일 수 있습니다. 품질이 중요한 기능이면 공급사를 직접 지정하는 편이 안전합니다.

Q. 스트라이프가 오픈라우터를 인수한다던데 지금 시작해도 되나요?

2026년 8월 16일 블룸버그가 70억 달러 이상, 8월 17일 악시오스가 현금과 주식 합쳐 80억 달러 이상이라고 보도했습니다. 다만 양사 모두 공식 발표는 하지 않은 상태입니다. 당장 서비스가 바뀐다는 발표는 없지만, 요금 정책이 손을 탈 가능성은 열어 두고 갈아탈 수 있게 코드를 짜 두는 편이 좋습니다.

Q. 한국어를 쓰면 요금이 더 나오나요?

같은 길이의 글이라도 한국어는 영어보다 토큰이 더 많이 나오는 경향이 있습니다. 그래서 영어 기준 계산을 그대로 믿으면 안 됩니다. 실제로 쓸 문장 몇 개를 넣어 보고 토큰 수를 재 본 다음에 계산하세요.

Q. 챗GPT나 클로드 같은 최신 상용 모델도 이렇게 싸게 쓸 수 있나요?

아닙니다. 이 글의 11배 이야기는 오픈 모델에만 해당합니다. 오픈 모델은 여러 회사가 같은 걸 올려놓고 경쟁하기 때문에 값이 갈립니다. 상용 모델은 만든 회사만 서빙하므로 어디를 거치든 값이 거의 같습니다.

오늘 정리

• 같은 오픈 모델이라도 어디서 부르느냐에 따라 입력 요금이 11.7배 갈립니다. (gpt-oss-120b, 2026년 8월 18일 조회)
• 그 차이의 상당 부분은 성능이 아니라 정밀도를 깎은 것입니다. 이름만 봐서는 모릅니다.
• 아직 실험 중이면 클라우드플레어 워커스AI로 시작하세요. 가벼운 모델이면 매일 수백만 토큰이 무료입니다.
• 모델을 고르는 중이면 오픈라우터로 여러 개를 갈아 끼워 보세요. 414개가 한 API에 있습니다.
• 규모가 커졌으면 투게더AI나 파이어웍스AI에서 캐시·배치 할인을 켜고, 속도가 돈이 되는 기능만 그록으로 빼세요.
• 지금 당장 할 일 하나만 고른다면: 지금 쓰는 모델의 정밀도가 뭔지 확인하세요. 4비트인데 원본급인 줄 알고 쓰고 있었다면, 대부분의 경우 아주 적은 돈으로 바꿀 수 있습니다.

여기 정리한 게이트웨이 5곳은 대부분 오픈AI 호환 형식을 지원하므로, 한 곳에 묶이지 않게 짜 두면 나중에 언제든 옮길 수 있습니다.

모든 수치는 2026년 8월 18일 기준 각 서비스의 공식 요금 페이지와 공식 API를 직접 조회한 값입니다. 요금은 자주 바뀌니 결제 전에 반드시 해당 페이지에서 다시 확인하세요.