AI API 5곳, 무료 등급은 사람이 읽습니다

글쓴이김성진·발행일2026년 9월 7일

회사 문서를 AI API에 넣기 전에 “이거 학습에 들어가나요?”라는 질문을 한 번은 받게 됩니다. 이 글은 그 질문에 링크 하나로 답할 수 있게 만든 기록입니다.

요금은 비교하기 쉽습니다. 숫자가 한 줄에 적혀 있으니까요. 그런데 “내가 보낸 문장이 어디에 얼마나 남고, 누가 볼 수 있나”는 요금표에 없습니다. 개인정보 처리방침, 남용 모니터링 문서, 서비스 약관에 나뉘어 적혀 있고, 셋의 말이 조금씩 다릅니다.

그래서 다섯 곳의 공식 문서를 2026년 9월 7일 기준으로 직접 열어 같은 자리에 세워 놓았습니다. 오픈AI API, 앤스로픽, 구글 제미나이 API, 애저 파운드리(애저 오픈AI), 아마존 베드록입니다.

읽고 나면 세 가지를 알게 됩니다. 기본값으로 내 데이터가 학습에 쓰이는 곳이 어디인지, 사람이 내 프롬프트를 읽을 수 있는 순간이 언제인지, 그리고 “아무것도 안 남기기”를 켜려면 무엇이 필요한지.

전제를 밝혀 둡니다. 아래 내용은 전부 각 회사가 공개한 문서에서 그대로 옮긴 것입니다. 문서에 안 적혀 있는 숫자는 추정하지 않고 “적혀 있지 않다”고 적었습니다. 정책은 자주 바뀌므로, 계약 전에는 반드시 원문을 다시 확인하세요.

무료로 쓰면 사람이 읽습니다

먼저 이 글에서 가장 세게 갈리는 지점부터 봅니다. 구글 제미나이 API입니다.

제미나이 API 약관은 무료 등급과 유료 등급을 아예 다른 서비스처럼 나눠 씁니다.

무료 등급 문구는 이렇게 적혀 있습니다.

“Google uses the content you submit to the Services and any generated responses to provide, improve, and develop Google products”

여기에 한 문장이 더 붙습니다.

“Human reviewers may read, annotate, and process your API input and output”

사람 검토자가 API 입력과 출력을 읽고, 주석을 달고, 처리할 수 있다는 뜻입니다. 구글은 검토 전에 데이터를 계정과 분리한다고 적어 두었지만, 분리는 “누가 보냈는지 모르게 한다”는 것이지 “안 본다”는 뜻이 아닙니다.

유료 등급으로 넘어가면 문장이 뒤집힙니다.

“Google doesn’t use your prompts…or responses to improve our products”

그리고 로그는 위반 탐지·방지 목적으로만, 제한된 기간 동안 남습니다.

정리하면 이렇습니다. 제미나이 API에서 프라이버시를 정하는 건 설정 화면이 아니라 결제 수단입니다. 카드를 등록해 유료 등급으로 올리는 순간 두 가지가 동시에 멈춥니다.

무료 크레딧으로 프로토타입을 만드는 단계라면 이건 그냥 알아 두는 정보입니다. 문제는 그 프로토타입에 실제 고객 데이터나 사내 문서를 넣기 시작할 때입니다. 그때는 등급이 곧 정책입니다.

같은 콘솔에서 모델만 바꿨는데 정책이 뒤집힙니다

두 번째 반전은 아마존 베드록에 있습니다.

베드록 문서는 기본값을 아주 세게 적어 둡니다.

“Amazon Bedrock uses a zero operator access (ZOA) data security model. This means no operators of the service can access model input or output. Also, Amazon Bedrock uses a zero data retention (ZDR) data security model. This means that by default, Amazon Bedrock does not store model inputs or outputs.”

운영자 접근 제로, 데이터 보관 제로. 기본적으로 입력과 출력을 저장하지 않는다고 못박습니다. 다섯 곳 중 기본값이 가장 강한 문장입니다.

그런데 바로 다음 문단에 예외가 붙습니다. 그리고 그 예외는 회사 단위가 아니라 모델 단위입니다.

차이가 보이시나요. GPT 계열은 분류기가 걸러낸 트래픽만 남습니다. 클로드 페이블 5와 5.1은 전부 남습니다. 걸리든 안 걸리든 30일입니다.

거기에 한 줄이 더 있습니다. 표시된 트래픽은 AWS가 수행하는 사람 검토 대상이 될 수 있습니다.

같은 AWS 계정, 같은 콘솔, 같은 코드에서 모델 ID 문자열 하나만 바꿨는데 “아무것도 안 남는 서비스”가 “전부 30일 남는 서비스”가 됩니다. 요금표만 보고 모델을 갈아 끼우는 습관이 위험해지는 지점입니다.

다섯 곳을 한 장에 놓으면

지금까지 나온 것과 나머지를 한 표에 세웠습니다.

표에서 바로 읽히는 건 하나입니다. “학습에 안 쓴다”와 “안 남는다”는 완전히 다른 약속입니다. 다섯 곳 중 네 곳이 앞의 약속은 하지만, 뒤의 약속까지 기본값으로 하는 곳은 베드록 하나뿐입니다.

오픈AI — 안 쓴다고 적어 놓고, 30일은 남습니다

오픈AI API 문서의 첫 문장은 명확합니다.

“data sent to the OpenAI API is not used to train or improve OpenAI models (unless you explicitly opt in to share data with us)”

API로 보낸 데이터는 모델 학습·개선에 쓰지 않습니다. 명시적으로 옵트인한 경우에만 씁니다. 챗GPT 소비자 제품과 API를 헷갈리는 분이 많은데, API 쪽은 기본이 “안 씀”입니다.

다만 학습과 보관은 별개입니다. 오픈AI는 남용 모니터링 목적으로 로그를 최대 30일 보관합니다.

여기에 더해, 기능에 따라 데이터가 계속 남는 자리가 따로 있습니다. 대화를 저장하는 엔드포인트, 어시스턴트와 스레드, 벡터 스토어, 업로드한 파일은 성격상 “지울 때까지 남는” 저장소입니다. 이건 남용 모니터링과 다른 종류의 보관이고, 개발자가 켠 기능이라 정책이 아니라 설계의 문제입니다.

“완전히 안 남기기”에는 신청서가 필요합니다

오픈AI에는 제로 데이터 리텐션(ZDR)이 있습니다. 켜면 두 가지가 바뀝니다.

• 고객 콘텐츠가 남용 모니터링 로그에서 제외됩니다
• store 파라미터가 항상 false로 처리됩니다. 요청이 true로 보내도 무시됩니다

두 번째 항목이 실무에서 중요합니다. 코드 어딘가에서 실수로 저장 옵션을 켜 두어도 서버가 막아 줍니다. 사람의 실수를 계정 설정이 덮는 구조입니다.

문제는 켜는 조건입니다. ZDR은 오픈AI의 사전 승인과 추가 요건 수락이 필요하고, 영업팀을 통해야 합니다. 셀프 서비스로 체크박스를 누를 수 있는 게 아닙니다.

그리고 승인을 받아도 전부가 대상은 아닙니다. 다음은 ZDR 대상이 아닙니다.

목록을 보면 규칙이 보입니다. 상태를 들고 있어야 동작하는 기능은 전부 빠져 있습니다. 대화를 이어가려면 대화를 저장해야 하고, 검색을 붙이려면 벡터를 저장해야 하고, 파인튜닝을 하려면 학습 파일이 있어야 합니다. 안 남기는 것과 기억하는 것은 원리상 같이 갈 수 없습니다.

그래서 “ZDR 켰으니 아무것도 안 남는다”는 말은 정확하지 않습니다. 정확한 문장은 **“단발 추론은 안 남고, 기억하는 기능을 켜는 순간 남는다”**입니다.

앤스로픽 — 시크릿 대화만 예외 없이 빠집니다

앤스로픽은 소비자 제품과 상업용 제품을 문서부터 나눠 놓았습니다.

소비자 쪽(Free·Pro·Max)에서 대화가 모델 학습에 쓰이는 경우는 셋입니다.

1. 개인정보 설정에서 직접 옵트인했을 때
2. 안전 검토를 위해 플래그된 대화일 때 — 이 경우 “이용정책 위반을 탐지하고 집행하는 능력을 개선하기 위해” 분석될 수 있습니다
3. 신뢰 테스터 프로그램 같은 프로그램에 참여했을 때

여기서 눈에 띄는 문장이 하나 있습니다.

“Your Incognito chats are not used to improve Claude, even if you have enabled Model Improvement”

시크릿 대화는 모델 개선을 켜 두었더라도 쓰이지 않습니다. 조건부 예외가 아니라 무조건 예외입니다. 다섯 곳의 문서를 통틀어 “설정과 무관하게 절대 안 쓴다”고 적힌 항목은 이것 하나였습니다. 민감한 걸 물어볼 자리가 제품 안에 따로 마련돼 있는 셈입니다.

보관 쪽에서는 피드백 데이터가 최대 5년까지 저장된다고 적혀 있습니다. 대화 자체가 아니라 좋아요·싫어요 같은 피드백에 딸린 데이터입니다.

상업용(클로드 API, 엔터프라이즈 플랜의 클로드 코드)은 별도 문서로 넘어갑니다. 핵심은 무저장 약정이 존재한다는 점입니다.

“Some Claude Platform (Claude API) and Claude Code for Enterprise customers…may have arrangements under which Anthropic does not store their inputs or outputs except where needed to comply with law or combat misuse or harm.”

법 준수와 오남용 대응을 뺀 나머지는 저장하지 않는 계약이 가능합니다. 다만 이것도 오픈AI와 마찬가지로 영업팀을 거쳐야 하고, 자격 요건이 붙습니다.

애저 — 사람이 보는 조건이 문서에 다 적혀 있습니다

애저 파운드리(애저 오픈AI) 문서는 다섯 곳 중 가장 길고, 가장 구체적입니다. 학습 관련해서는 다섯 줄을 한꺼번에 못박습니다. 프롬프트·완성·임베딩·학습 데이터는

• 다른 고객이 볼 수 없고
• 오픈AI 등 모델 제공자가 볼 수 없고
• 제공자가 자기 모델·서비스를 개선하는 데 쓰이지 않고
• 허락이나 지시 없이 어떤 생성형 파운데이션 모델 학습에도 쓰이지 않고
• 허락이나 지시 없이 마이크로소프트나 제3자 제품·서비스 개선에도 쓰이지 않습니다

거기에 한 줄이 더 있습니다.

“The models are stateless: no prompts or completions are stored in the model.”

모델은 상태를 갖지 않습니다. 프롬프트와 완성은 모델 안에 저장되지 않습니다.

그럼 어디에 남느냐. 남용 모니터링 저장소입니다. 그리고 애저는 누가 어떤 조건에서 그걸 볼 수 있는지까지 적어 두었습니다.

사람 검토에 걸리는 조건도 좁습니다. 이미 플래그된 데이터이거나, 남용 패턴의 일부로 식별된 데이터여야 합니다. 접근은 승인된 마이크로소프트 직원이 **보안 접근 워크스테이션(SAW)**과 관리자의 실시간(JIT) 승인을 거쳐 요청 ID 단위로만 합니다. 유럽경제지역(EEA)에 배포된 모델이면 검토 직원도 EEA 안에 있습니다.

끄는 방법도 있습니다. 민감·기밀 데이터를 다루는 고객은 **수정된 남용 모니터링(modified abuse monitoring)**을 신청할 수 있습니다. 제한적 접근(Limited Access) 자격 요건을 충족하고 양식을 내야 하며, 일부 고급 모델은 기준이 더 까다롭습니다.

승인되면 저장과 사람 검토가 사라집니다. 그리고 이게 실제로 꺼졌는지 직접 확인할 수 있습니다. 애저 포털의 JSON 뷰나 CLI에서 리소스를 조회했을 때 ContentLogging 값이 false로 보이면 꺼진 것입니다. 값이 아예 안 보이면 켜져 있는 상태입니다.

az cognitiveservices account show -n resource_name -g resource_group

다섯 곳 중 “정책이 실제로 적용됐는지 명령어로 확인하는 법”까지 적어 둔 곳은 애저뿐이었습니다. 약속을 검증 가능하게 만든 것과 약속만 한 것은 다릅니다.

베드록 — 기본값은 ‘저장 안 함’입니다

베드록으로 돌아옵니다. 앞에서 본 모델별 예외를 빼면, 구조 자체가 다른 곳과 다릅니다.

베드록에는 **모델 배포 계정(Model Deployment Account)**이라는 개념이 있습니다. 리전마다 모델 제공자별로 하나씩 있고, 베드록 서비스 팀이 소유·운영합니다. 모델 제공자는 이 계정에 접근할 수 없습니다.

문서의 결론은 이렇습니다.

“Because the model providers don’t have access to those accounts, they don’t have access to Amazon Bedrock logs or to customer prompts and completions.”

모델 제공자가 로그에도, 고객 프롬프트·완성에도 접근할 수 없습니다. 정책으로 금지한 게 아니라 계정 경계로 막아 둔 것입니다. “안 하기로 약속했다”와 “할 수 없게 해 뒀다”의 차이입니다.

보관되는 예외 케이스도 마찬가지입니다.

“Retained inputs and outputs are stored and processed by AWS and are not shared with third-party model providers.”

30일 남는 그 트래픽조차 AWS가 저장·처리하고, 서드파티 모델 제공자와 공유하지 않습니다.

클로드 페이블 5만 전체 트래픽이 남는 이유

베드록 문서에는 이 예외에 대한 완화 조항이 하나 붙어 있습니다.

엔터프라이즈 프론티어 세이프가드(Enterprise Frontier Safeguards) 프로그램 대상 고객은 2026년 12월 31일까지 ZDR을 적용받습니다. 그 이후에는 전체 트래픽이 최대 30일 보관으로 돌아갑니다.

문서는 그 다음 계획도 적어 두었습니다. 이 프로그램은 자동 오프라인 남용 탐지를 위한 저장에 고객 관리 암호화 키와 **고객 소유 버킷(bring your own bucket)**을 쓸 수 있게 할 계획입니다.

즉 방향은 “저장을 없앤다”가 아니라 “저장은 하되 열쇠와 창고를 고객에게 넘긴다”입니다. 프론티어 모델을 다루는 쪽에서 안전 장치를 포기하지 않으면서 기업 요구를 맞추는 타협점으로 읽힙니다.

날짜가 박혀 있다는 게 실무적으로 중요합니다. 2026년 12월 31일은 달력에 적어 둘 만한 날입니다. 그날 이후로 정책이 자동으로 바뀌는데, 아무도 메일을 보내 주지 않습니다.

리전을 켜면 저장 위치가 따라 움직입니다

데이터가 “어디에” 남는지도 갈립니다. 그리고 두 곳 모두 성능을 위해 켜는 옵션이 저장 위치를 바꾼다는 공통점이 있습니다.

베드록은 이렇게 적어 두었습니다. 교차 리전 추론(cross-region inference)을 켜면, 보관되는 입력과 출력은 목적지 리전 — 즉 요청이 실제로 처리된 리전 — 에 저장됩니다.

애저도 비슷합니다. 기본 배포에서는 프롬프트와 응답이 고객이 지정한 지오그래피 안에서 처리됩니다. 그런데 배포 유형이 Global이면 해당 모델이 배포된 어느 지오그래피에서든 처리될 수 있고, DataZone이면 지정된 데이터 존 안의 어느 지오그래피에서든 처리될 수 있습니다.

다만 애저는 여기에 선을 하나 그어 둡니다. Global과 DataZone에서도 저장되는 데이터(업로드 데이터, 남용 모니터링 저장소 포함)는 고객이 지정한 지오그래피에 저장됩니다. 바뀌는 건 처리 위치뿐입니다.

정리하면 이렇습니다.

국내 데이터를 국내에 둬야 하는 요건이 있다면, 이 표에서 굵은 칸 하나가 감사 지적 사항이 됩니다. 그리고 교차 리전 추론은 흔히 처리량을 늘리려고 켜는 옵션이라, 프라이버시를 생각하고 켜는 사람이 거의 없습니다.

일수를 안 적어 둔 곳

숫자를 비교하다 보면 빈칸이 생깁니다. 비워 둔 자리를 그대로 적어 둡니다.

• 애저: 남용 모니터링 저장소에 데이터가 며칠 남는지, 데이터·프라이버시 문서와 남용 모니터링 문서 어디에도 일수가 적혀 있지 않았습니다. 누가 어떤 조건에서 보는지는 아주 자세히 적어 두고, 기간은 적지 않았습니다.
• 앤스로픽 상업용: 기본 보관 일수가 공개 문서에서 확인되지 않았습니다. 무저장 약정이 있다는 사실과, 엔터프라이즈에서 맞춤 보관 기간을 설정할 수 있다는 사실은 확인됩니다.
• 구글 무료 등급: 제품 개선 목적 보관에 기간이 명시돼 있지 않습니다. 유료 등급은 “제한된 기간”이라고만 적혀 있습니다.

여기서부터는 공개 문서로 답이 안 나옵니다. 계약 단계에서 물어봐야 하는 질문입니다.

사람이 읽을 수 있는 순간은 언제인가

이 글에서 가장 자주 받게 될 질문 하나만 따로 모았습니다. “사람이 진짜 내 프롬프트를 볼 수 있나요?”

무료 등급 한 줄만 성격이 다릅니다. 나머지는 전부 **“뭔가 걸렸을 때”**라는 조건이 앞에 붙는데, 구글 무료 등급만 그 조건이 없습니다.

이게 나쁘다는 뜻은 아닙니다. 무료로 주는 대신 데이터를 받는 건 정당한 거래이고, 구글은 그걸 약관에 숨기지 않고 적어 두었습니다. 문제는 그 거래를 모르고 하는 경우입니다.

사내 문서를 넣기 전에 확인할 것 세 가지

실무에서 쓸 수 있게 세 줄로 줄이면 이렇습니다.

1. 지금 무료 등급인지 확인하세요. 제미나이 API를 쓰고 있다면 이게 첫 번째 질문입니다. 결제 정보가 붙어 있지 않은 프로젝트라면 무료 등급이고, 그 순간 위 표의 첫 줄이 적용됩니다. 프로토타입이 조용히 프로덕션이 되는 일은 생각보다 자주 일어납니다.

2. 모델 ID를 확인하세요. 베드록을 쓴다면 지금 부르고 있는 모델이 예외 목록에 있는지 봅니다. 클로드 페이블 5 계열이면 전체 트래픽 30일입니다. 성능이 좋아서 바꿔 둔 그 한 줄이 정책을 바꿨을 수 있습니다.

3. 상태를 저장하는 기능을 켜 뒀는지 확인하세요. 오픈AI에서 ZDR을 받았더라도 대화 저장·어시스턴트·벡터 스토어·파일 업로드는 대상 밖입니다. “안 남긴다”고 알고 있는데 실제로는 벡터 스토어에 원문이 통째로 들어가 있는 상황이 가장 흔한 사고입니다.

이 셋은 전부 코드나 콘솔에서 5분 안에 확인됩니다. 계약서를 다시 읽기 전에 이것부터 보는 게 빠릅니다.

로그를 어디까지 남길지는 LLM 관측 도구 5곳을 고를 때도 똑같이 걸리는 문제입니다. 모델 쪽에서 안 남겨도 관측 도구가 프롬프트를 통째로 저장하고 있으면 결과는 같습니다.

아예 안 보내는 선택지

여기까지 읽고 “그냥 안 보내면 되지 않나” 싶다면, 그것도 실제 선택지입니다.

모델을 내 서버나 내 노트북에서 돌리면 위 표 전체가 사라집니다. 남용 모니터링도, 사람 검토도, 리전 문제도 없습니다. 대신 성능과 운영 부담을 가져갑니다. 무엇을 쓸 수 있는지는 로컬 LLM 실행 도구 비교에 정리해 두었습니다.

현실적인 절충은 데이터를 나누는 것입니다. 고객 개인정보나 계약서가 들어가는 경로만 로컬 모델로 돌리고, 나머지 일반적인 작업은 API로 보내는 방식입니다. 전부를 한쪽으로 몰지 않아도 됩니다.

어느 API를 거쳐 보낼지도 변수입니다. 여러 모델을 한 창구로 묶는 AI 게이트웨이 5곳을 끼우면 요금은 편해지지만, 데이터가 지나는 회사가 하나 더 늘어납니다. 그 회사의 정책도 같이 읽어야 합니다.

그래서 어디에 넣어야 하나

한 줄씩 정리합니다.

기본값만 보고 고른다면 베드록입니다. 다섯 곳 중 유일하게 “기본적으로 입력과 출력을 저장하지 않는다”고 적었고, 모델 제공자의 접근을 정책이 아니라 계정 경계로 막았습니다. 단, 페이블 5 계열을 부르는 순간 이 장점은 사라집니다.

검증까지 필요하면 애저입니다. 정책이 실제로 적용됐는지 CLI 한 줄로 확인할 수 있는 곳은 여기뿐이었습니다. 감사에 제출할 근거가 필요한 조직이라면 이 차이가 큽니다.

무료 등급으로 실험 중이라면 지금 유료로 올리세요. 제미나이 API에서 유료 전환은 성능 문제가 아니라 프라이버시 문제입니다. 실제 데이터를 넣기 시작했다면 더 미룰 이유가 없습니다.

“아무것도 안 남기기”를 계약으로 받아야 한다면 오픈AI와 앤스로픽 둘 다 가능합니다. 대신 둘 다 영업팀을 거쳐야 하고, 오픈AI는 기억하는 기능이 대상에서 빠진다는 점을 계약 전에 확인해야 합니다.

마지막으로 하나만 남깁니다. 이 글에서 확인한 것 중 가장 중요한 건 특정 회사의 우열이 아니라 “학습에 안 쓴다”가 “안 남는다”를 뜻하지 않는다는 사실이었습니다. 다섯 곳 모두 앞 문장은 어떤 형태로든 말하고 있고, 뒤 문장까지 기본값으로 말하는 곳은 한 곳뿐이었습니다.

법무팀이 묻는 건 대개 뒤 문장입니다.