AI API 속도 등급 4곳, 반값에서 6배까지 갈립니다

글쓴이김성진·발행일2026년 10월 21일

AI 앱 청구서를 줄이고 싶어서 요금표를 열었는데, 같은 모델 이름 옆에 Batch, Flex, Priority, Fast, Ultrafast 같은 말이 줄줄이 붙어 있어서 닫은 적이 있다면 이 글이 맞습니다. 이 말들이 AI API 속도 등급입니다. 모델이 아니라 얼마나 빨리 받느냐를 파는 이름입니다. 같은 모델, 같은 토큰(AI가 글을 읽고 쓰는 단위)인데 급하지 않다고 하면 반값이고, 급하다고 하면 웃돈이 붙습니다.

이 글은 오픈AI, 앤스로픽, 구글, AWS 베드록(Amazon Bedrock), 이렇게 네 곳의 AI API 속도 등급을 같은 줄에 세웁니다. 평가나 분류처럼 급하지 않은 일을 대량으로 돌리는 개발자는 어디서 반값을 받는지 알 수 있고, 반대로 응답이 늦어서 웃돈을 낼지 고민하는 개발자는 웃돈이 얼마를 사 주는지 알 수 있습니다. 캐시(같은 앞부분을 다시 보낼 때 깎아 주는 할인)가 같이 붙는 이야기는 프롬프트 캐싱 글에서, 요청 한도는 사용 한도 글에서 다뤘습니다. 여기서는 속도 등급 때문에 갈리는 값만 봅니다.

기준일은 2026년 10월 21일 아침입니다. 오픈AI 요금 페이지와 가이드 문서, 앤스로픽 요금·배치·빠른 모드 문서, 구글 Gemini 요금 페이지와 우선 추론 문서, AWS 베드록 요금 페이지와 서비스 등급 문서를 직접 열어 읽었습니다. 네 곳에 가입하거나 호출해 본 것은 아닙니다. 속도 배수도 제가 재지 않았고 각 문서가 적은 말을 옮겼습니다. 뒤에 나오는 월 청구서 표는 단가에 제가 토큰 수를 곱한 계산값입니다.

먼저 용어: AI API 속도 등급은 같은 모델을 여러 속도로 팝니다

요청을 보내고 결과를 바로 받는 방식을 동기 호출이라고 하고, 요청을 한꺼번에 맡겨 두고 나중에 결과를 가져가는 방식을 비동기라고 합니다. 네 곳의 등급은 이 두 갈래 위에서 이렇게 나뉩니다.

• Batch(배치): 비동기. 요청을 파일로 묶어 맡기고 보통 최대 24시간 안에 결과를 받습니다. 값은 반값입니다.
• Flex(플렉스): 동기. 평소처럼 바로 응답을 받지만 느릴 수 있고 가끔 자리가 없다고 거절당합니다. 값은 반값입니다.
• Standard(표준): 기본값입니다. 이 글의 모든 배수는 이 줄을 1로 둡니다.
• Priority·Fast(우선·빠른 모드): 같은 모델을 더 빨리 돌려 주는 대신 웃돈을 받습니다. 오픈AI에는 그 위에 Ultrafast가 하나 더 있습니다.

모든 곳이 네 등급을 다 파는 것은 아닙니다. 오픈AI는 다섯 줄을 다 가졌고, 앤스로픽은 배치와 빠른 모드, 구글과 베드록은 배치·플렉스·우선·표준을 가졌습니다. 아래에서 한 곳씩 보겠습니다.

오픈AI: 같은 모델이 5달러에서 60달러까지

오픈AI 요금 페이지는 가격을 Standard, Batch, Flex, Fast, Ultrafast 다섯 표로 나눠 적습니다. 100만 토큰당, 입력 272K 토큰 이하 기준으로 최신 모델 네 개를 뽑으면 이렇습니다(입력/출력).

어느 모델이든 배수가 같습니다. Batch와 Flex는 Standard의 0.5배, Fast는 2배, Ultrafast는 6배입니다. 그래서 gpt-6-astra 입력 한 줄만 봐도 Batch 5달러와 Ultrafast 60달러가 12배 갈립니다. Ultrafast는 gpt-6-astra와 gpt-6.1-sol에만 있고, 가이드 문서도 “이 두 모델에 널리 열려 있다”고 적었습니다.

각 등급이 문서에서 말하는 조건은 이렇습니다.

• Batch: 50% 할인에 별도의 더 높은 요청 한도를 준다고 적었고, 완료 기한은 24시간 하나뿐입니다. 입력 파일은 모델 하나당 한 파일이고 업로드는 200MB 미만으로 맞추라고 안내합니다.
• Flex: 베타이고 쓸 수 있는 모델이 제한되어 있습니다. “응답이 느려지고 가끔 자원이 없다”는 대가로 값은 Batch와 같습니다. 문서의 예제는 기본 10분인 요청 시간 제한을 15분으로 늘려서 부릅니다.
• Fast: 2026년 7월 30일에 Priority에서 이름을 바꿨습니다. 문서는 “최대 2.5배 빠르고 지연이 더 고르다”고 적고, 예전 이름 priority도 같은 동작으로 받아 줍니다.
• Ultrafast: “가장 빠른 등급”이고 Standard·Fast와 요청 한도가 따로 있습니다. 에이전트처럼 도구 호출이 빠르게 이어지는 앱에는 웹소켓(연결을 계속 열어 두는 방식)을 쓰라고 강하게 권합니다. 속도가 몇 배인지는 문서에 적혀 있지 않았습니다.

앤스로픽: 반값은 배치에만 있고, 빠른 길은 오퍼스 셋뿐입니다

앤스로픽은 구조가 더 단출합니다. 반값은 Message Batches API 한 곳에만 있고, 동기로 쓰는 반값 등급은 이 글이 읽은 요금표와 문서에서 찾지 못했습니다. 빠른 길은 **빠른 모드(Fast mode)**인데 지원 모델이 오퍼스 계열로 한정되어 있습니다.

오퍼스 5.5의 빠른 모드는 Standard의 2배이고, 오퍼스 5와 4.8은 연구 미리보기로 5달러/25달러가 10달러/50달러가 됩니다. 문서는 빠른 모드를 “같은 모델을 더 빠른 추론 설정으로 돌리는 것이고 지능이나 기능은 그대로”라고 설명하며 최대 2.5배의 초당 출력 토큰을 말합니다. 단서가 하나 붙습니다. 빨라지는 것은 출력 속도(OTPS)이고 첫 글자가 나오기까지의 시간(TTFT)이 아닙니다. 스트리밍으로 받을 때 체감이 큽니다.

배치 쪽 조건은 이렇습니다. 한 배치는 요청 10만 건 또는 256MB 중 먼저 닿는 쪽까지입니다. 대부분 1시간 안에 끝나지만 24시간 안에 안 끝나면 만료됩니다. 결과는 만든 지 29일 뒤에는 내려받을 수 없습니다. 활성 모델은 전부 배치를 지원하고, 반값은 입력과 출력 둘 다에 붙습니다. 문서가 직접 못 박은 제약이 둘 있습니다. 빠른 모드는 배치와 같이 쓸 수 없고(speed 매개변수는 배치에서 오류), 배치는 스트리밍을 받지 못합니다. 또 처리량이 높아서 콘솔에 걸어 둔 지출 한도를 조금 넘길 수 있다고 적었습니다.

구글: 배치와 플렉스는 같은 반값, 프라이어리티는 1.8배입니다

Gemini 요금 페이지(페이지에 “마지막 갱신 2026-10-19 UTC”)는 모델마다 Standard, Batch, Flex, Priority 네 값을 적습니다. 토큰으로 값을 매기는 모델은 거의 같은 배수입니다.

Batch와 Flex는 Standard의 0.5배, Priority는 1.8배입니다. 그런데 표 첫 두 줄에는 읽을 때 놓치기 쉬운 단서가 붙어 있습니다. gemini-4-argon의 위 값은 2026년 11월 30일까지이고 12월 1일부터는 Standard가 4달러/20달러로 두 배가 됩니다. gemini-3.8-flash도 12월 31일까지의 값이고 2027년 1월 1일부터 1.50달러/7.50달러가 됩니다. 반값 등급과 우선 등급도 같은 배수로 같이 오릅니다. 지금 본 값은 기한이 있는 값입니다.

구글은 등급 비교표를 우선 추론 문서에 따로 실어 두었습니다.

요금 페이지는 1.8배(80% 비쌈)라고 적고 문서는 75~100%라고 적어서 두 곳이 조금 다릅니다. 이 글은 요금 페이지의 1.8배를 따랐습니다. 이 등급 둘은 모두 “미리보기” 단계입니다.

Priority는 한도를 넘는 요청을 실패시키지 않고 표준으로 조용히 내려 처리합니다. 문서는 내려간 요청이 Priority 웃돈이 아니라 표준 가격으로 청구된다고 적었고, 응답 헤더 x-gemini-service-tier로 얼마나 내려갔는지 보라고 안내합니다. Priority에는 자기만의 한도가 있고 기본값은 표준 한도의 0.3배입니다. 반대로 Flex는 자리가 없으면 503이나 429로 거절하고, 표준으로 자동 승격하지 않습니다. “예상 못 한 청구를 막으려는 것”이라고 문서가 이유를 적었습니다. 클라이언트가 재시도하고 대기 시간 제한을 10분 이상으로 늘려야 합니다. Flex는 배치와 달리 늘어난 한도도 없고 일반 한도에 같이 잡힙니다.

배치는 목표 24시간이고 인라인 요청은 20MB 미만, 입력 파일은 2GB까지, 결과는 6주 뒤 지워집니다. 컨텍스트 캐시와 같이 쓸 수 있고, 무료 계층에서는 Batch와 Flex 값이 제공되지 않습니다. 한 가지 어긋남도 있습니다. 우선 추론 문서의 지원 모델 목록에는 gemini-3.5-flash, 3.1-pro 같은 이름만 있고 gemini-4-argon과 3.8-flash는 보이지 않는데, 요금 페이지에는 두 모델의 Priority 값이 적혀 있습니다. 호출하기 전에 그 모델이 지금 Priority를 받는지 먼저 확인하세요.

AWS 베드록: 웃돈 75%로 사는 것은 최대 25%입니다

베드록은 호출마다 service_tier 값으로 등급을 고릅니다. 요금 페이지는 Standard, Priority, Flex, Reserved(예약) 네 등급과 별도로 Batch 추론을 적고, 각주에서 배수를 밝힙니다. Priority는 Standard보다 75% 비싸고, Flex와 Batch는 50% 쌉니다.

페이지에 숫자가 실려 있던 예는 오픈소스 모델 gpt-oss-120b(아시아 태평양 시드니 리전, 100만 토큰당 입력/출력)였습니다.

배수는 1.75배와 0.5배로 문서 문장과 똑같이 나옵니다. 웃돈이 사 주는 것은 서비스 등급 소개 페이지에 적혀 있습니다. Priority는 “Standard보다 최대 25% 나은 초당 출력 토큰 지연”입니다. **값은 75% 더 내는데 속도는 최대 25%**입니다. 같은 “빠른 길”인데 오픈AI·앤스로픽의 2배 값에 최대 2.5배 속도와는 거래 조건이 꽤 다릅니다. 물론 “최대”라는 말이 모든 곳에 붙어 있어서, 내 요청에서 실제로 얼마나 나오는지는 재 봐야 압니다.

그 밖의 조건은 이렇습니다.

• Flex: 트래픽이 몰리면 Standard 요청이 먼저 처리되고 Flex는 그 뒤에 처리됩니다.
• Reserved: 용량을 1개월 또는 3개월 단위로 미리 잡는 방식입니다. 최소 입력 분당 10만 토큰, 출력 분당 1만 토큰이고, 예약 용량을 넘는 요청은 Standard로 넘어갑니다. 쓰려면 AWS 담당 팀에 문의해야 합니다.
• 모델의 온디맨드 한도(요청 한도)는 priority·default·flex 세 등급이 함께 씁니다. 등급을 바꿔도 한도가 늘지는 않습니다. 예약은 따로 계산됩니다.
• 배치 추론은 Converse 방식의 도구 호출을 지원하지 않고(해당 레코드는 400 오류), 프로비전된 모델에는 못 씁니다.
• 어느 모델이 어느 등급을 지원하는지는 요금 페이지가 아니라 모델별 카드에서 따로 확인해야 합니다.

네 곳을 배수로 줄 세우면

Standard를 1로 두고 네 곳의 배수만 뽑으면 이렇게 됩니다.

한눈에 보이는 것이 세 가지입니다. 첫째, 반값은 네 곳 전부에 있습니다. 이름과 방식만 다릅니다. 둘째, 동기로 쓰는 반값(Flex)은 오픈AI·구글·베드록에 있고, 앤스로픽만 이 글이 읽은 문서에서 찾지 못했습니다. 셋째, 빠른 길의 웃돈은 1.75배에서 2배로 비슷한데, 가장 빠른 길은 오픈AI만 따로 팔고 값이 6배입니다. 그래서 위쪽에서 처음 본 “5달러와 60달러” 같은 큰 격차는 오픈AI 한 곳에서만 나옵니다. AI API 속도 등급의 배수만 외워 두면 어느 곳의 요금표를 열어도 같은 방식으로 읽을 수 있습니다.

웃돈 값만이 아니라 웃돈이 약속하는 속도도 곳마다 다릅니다.

반값을 받는 대신 내놓는 것

반값은 공짜가 아닙니다. 위에서 읽은 조건을 한 줄로 모으면 이렇습니다.

• 기다림: 오픈AI Batch는 24시간 하나뿐이고, 앤스로픽은 대부분 1시간 안이지만 24시간이 지나면 만료됩니다. 구글 배치의 목표는 24시간, 플렉스는 1~15분이 목표입니다.
• 크기·한도: 오픈AI 200MB, 앤스로픽 요청 10만 건 또는 256MB, 구글 입력 파일 2GB. 배치는 오픈AI가 따로 더 높은 한도를 준다고 적었고, 구글 Flex는 일반 한도에 같이 잡힙니다.
• 기능 제한: 앤스로픽 배치는 스트리밍과 빠른 모드를 쓸 수 없고, 베드록 배치는 Converse 도구 호출이 안 됩니다. 오픈AI 배치는 파일 하나에 모델 하나입니다.
• 밀려남: 오픈AI Flex는 자원이 없으면 거절될 수 있고, 구글 Flex는 503·429로 거절하면서 표준으로 올려 주지도 않고(자동 승격 없음), 베드록 Flex는 Standard 뒤에 처리됩니다. 동기로 쓰는 반값은 재시도 코드를 같이 가져가야 합니다. 구글 문서는 대기 시간 제한을 10분 이상으로 늘리라고 적었습니다.
• 결과 보관: 앤스로픽 29일, 구글 6주. 오픈AI는 이 글이 읽은 배치 문서에서 보관 기간을 찾지 못했습니다.

입력 5,000만·출력 1,000만 토큰을 쓰면 청구서는 이렇게 갈립니다

표준 가격 자체가 곳마다 얼마나 다른지는 AI 모델 API 가격 비교 글에서 따로 다뤘고, 여기서는 같은 모델 안의 등급 차이만 봅니다.

감을 잡기 위해 한 달에 입력 5,000만 토큰과 출력 1,000만 토큰을 쓰는 앱을 가정하고, 각 곳의 표 단가에 곱했습니다. 캐시 할인과 데이터 거주 추가 요금은 넣지 않았습니다(오픈AI는 일부 지역 엔드포인트에 10% 추가 요금이 있다고 적었습니다). 계산식은 입력 단가 × 50 + 출력 단가 × 10입니다.

같은 5,000만 토큰이 gpt-6.1-sol에서는 100달러에서 1,200달러까지 갑니다. 앤스로픽 오퍼스 5.5는 200달러에서 800달러, 4배입니다. 구글의 두 모델은 지금의 기한 있는 값이라서, gemini-4-argon은 12월 1일부터 Standard가 400달러가 되고 gemini-3.8-flash는 2027년 1월부터 Standard가 150달러가 됩니다.

여기서 하나 더 보입니다. 배치로 옮길 수 있는 일을 표준으로 돌리고 있다면 그 일의 값이 정확히 두 배입니다. 요금표를 보기 전에 “내 호출 중 몇 퍼센트가 사람이 기다리지 않는 일인가”부터 세어 보는 것이 가장 빠른 절약입니다. 평가 돌리기, 대량 분류, 문서 요약, 임베딩 만들기가 대개 그쪽입니다.

빠른 길에서 먼저 확인할 것 셋

웃돈을 낼 때 놓치기 쉬운 것을 문서에서 뽑았습니다.

1. 앤스로픽 빠른 모드는 첫 글자를 빠르게 하지 않습니다. 빨라지는 것은 출력이 흐르는 속도라서, 응답이 길고 스트리밍으로 받을 때 이득이 큽니다. 짧은 답을 한 번에 받는 호출이면 체감이 작을 수 있습니다.
2. 구글 Priority는 한도를 넘으면 표준으로 내려갑니다. 실패하지는 않고 표준 가격으로 청구되니 돈은 덜 나가지만, 빠른 길을 샀다고 항상 빠른 길로 오는 것은 아닙니다. 기본 한도가 표준의 0.3배라서 트래픽이 많으면 자주 내려갈 수 있습니다. 응답 헤더 x-gemini-service-tier를 로그에 남겨서 얼마나 내려갔는지 보세요.
3. 오픈AI Ultrafast는 한도가 따로이고 웹소켓을 권합니다. 연결을 요청마다 새로 맺으면 네트워크 시간 때문에 속도 이득이 줄어든다고 문서가 적었습니다. 쓰려면 호출 구조를 바꿀 각오가 필요합니다.

한 가지가 더 있습니다. 베드록은 priority·default·flex가 같은 온디맨드 한도를 나눠 씁니다. 빠른 길을 켠다고 한도가 따로 생기지 않으니, 한도가 병목인 팀은 사용 한도 글에서 본 구조를 먼저 확인해야 합니다.

확인하지 못한 곳: 애저와 실제 속도

마이크로소프트 애저(Azure OpenAI)는 이 글의 표에서 뺐습니다. 요금 페이지를 읽었더니 모델마다 입력·출력·캐시 칸이 전부 자리표시($-)로 비어 있고, 최신 모델 일부는 “가격 게시 준비 중”이라는 안내만 있었습니다. 숫자를 못 읽은 곳을 짐작으로 채우지 않았습니다. 확인된 문장은 하나입니다. 글로벌 배치는 24시간 안에 결과를 돌려주고 “글로벌 표준 가격의 50% 할인”이라고 적혀 있었습니다. Priority와 Flex 칸이 있는 모델도 있었지만 값은 비어 있었습니다.

속도 배수는 모두 각 곳 문서의 문장입니다. 제가 같은 요청을 등급별로 보내서 시간을 재 본 것이 아닙니다. 그리고 가격 페이지는 며칠 안에 바뀔 수 있고, 구글의 두 모델처럼 기한이 있는 값도 있습니다. 이 글은 2026년 10월 21일 아침의 기록입니다.

상황별로 어느 등급부터 시험할까

값과 조건을 한 줄로 합치면 이렇습니다. 어느 쪽도 내 작업의 품질을 담보하지 못하니 “먼저 시험해 볼 곳”으로 읽어 주세요.

• 평가·대량 분류·요약처럼 사람이 기다리지 않는 일이라면 네 곳 모두 Batch(0.5배)부터 보세요. 앤스로픽은 대부분 1시간 안에 끝난다고 적었고, 오픈AI는 24시간 하나입니다.
• 개발 중에 코드로 바로 돌려 봐야 하지만 값을 줄이고 싶다면 오픈AI·구글·베드록의 Flex(0.5배)를 보세요. 대신 거절과 느림을 받아 낼 재시도 코드가 필요합니다. 앤스로픽은 이 용도의 반값이 없습니다.
• 사용자가 응답을 보며 기다리는 앱이라면 먼저 Standard로 지연을 재고, 부족할 때만 빠른 길을 켜세요. 웃돈은 오픈AI·앤스로픽 2배, 구글 1.8배, 베드록 1.75배입니다.
• 빠른 길 중 값 대비 속도 약속이 가장 큰 곳은 문서 문장으로는 오픈AI·앤스로픽의 “2배 값에 최대 2.5배”입니다. 베드록은 “1.75배 값에 최대 25%“라 약속이 작습니다.
• **오픈AI Ultrafast(6배)**는 속도가 곧 매출인 앱에만 맞습니다. 값이 6배인데 속도 배수는 문서에 없으니, 내 호출로 먼저 재 보세요.

내 호출 100건으로 하는 시험

값표로 등급을 고른 뒤에는 이렇게 재 보세요. 한 시간이면 됩니다.

1. 내 앱이 실제로 보내는 요청 100건을 파일로 모읍니다. 사용자 정보가 들어 있다면 가짜 값으로 바꿉니다.
2. 같은 100건을 Standard로 한 번, 반값 등급(Batch 또는 Flex)으로 한 번 보냅니다. 모델과 매개변수는 똑같이 맞춥니다.
3. 두 결과를 나란히 놓고 달라진 답이 몇 건인지 셉니다. 같은 모델이라 거의 같아야 합니다. 크게 다르면 그 일은 반값 등급에 맞지 않습니다.
4. 걸린 시간을 적습니다. Batch는 끝날 때까지, Flex는 건당 응답 시간과 거절 횟수를 봅니다.
5. 빠른 길을 고민한다면 같은 100건을 Standard와 빠른 길로 한 번씩 보내 출력이 끝날 때까지의 시간을 비교합니다. 첫 글자 시간과 따로 적어 두세요.
6. 마지막으로 그 시험에 든 달러를 적어 두고, 한 달 요청 수로 곱해 봅니다. 이 글의 표와 같은 배수가 나오는지 확인하면 요금표 읽는 눈이 생깁니다.