LLM 관측 5곳, 로그가 남는 기간이 78배 갈립니다

글쓴이김성진·발행일2026년 8월 26일

사고는 배포한 그 주에 안 터집니다

같은 기록 한 건인데, 어떤 설정에서는 14일 뒤에 사라지고 어떤 설정에서는 3년을 들고 있습니다. 78배 차이입니다.

AI 기능을 서비스에 붙이면 답이 이상하게 나오는 날이 반드시 옵니다. 그때 개발자가 제일 먼저 찾는 게 “그 사용자가 뭘 물었고, 우리가 모델에 뭘 보냈고, 모델이 뭐라고 답했는지”입니다. 이 세 가지를 자동으로 모아 주는 도구를 LLM 관측 도구, 또는 트레이싱 도구라고 부릅니다.

여기서 “트레이스(trace)“라는 말이 계속 나올 텐데, 사용자 요청 하나가 처리되는 과정 전체를 한 덩어리로 묶어 놓은 기록이라고 생각하시면 됩니다. 그 안에는 모델 호출, 검색, 도구 실행 같은 작은 단계들이 여러 개 들어갑니다. 그 작은 단계 하나하나를 “스팬(span)“이라고 부릅니다. 서비스마다 트레이스로 세는 곳과 스팬으로 세는 곳이 갈리는데, 이 차이가 뒤에서 요금 계산을 크게 흔듭니다.

문제는 이겁니다. 그 이상한 답을 우리가 그날 알아채지 못한다는 겁니다.

사용자가 문의를 넣기까지 며칠이 걸리고, 문의가 담당자에게 도달하기까지 또 며칠이 걸립니다. CS 티켓이 개발팀으로 넘어올 때쯤이면 2~3주가 지나 있는 게 보통입니다. 그때 기록이 이미 지워져 있으면 그 도구는 붙여 둔 의미가 없습니다.

그래서 이 글은 처리 속도나 화면 디자인이 아니라 보존 기간을 축으로 다섯 곳을 비교합니다. 랭퓨즈(Langfuse), 랭스미스(LangSmith), 헬리콘(Helicone), 브레인트러스트(Braintrust), 애리즈 AX(Arize AX)입니다.

모든 숫자는 2026년 8월 26일에 각 서비스의 공식 요금 페이지에서 직접 확인했습니다. 페이지에 없는 값은 지어내지 않고 비워 뒀고, 어디가 비었는지도 아래에 따로 적었습니다.

로그가 살아 있는 기간을 한 줄로 세우면

먼저 결론에 해당하는 표입니다. 각 서비스의 무료 플랜과, 그 위 단계에서 보존이 어디까지 늘어나는지를 나란히 놓았습니다.

무료 구간만 보면 14일에서 30일 사이에 다 모여 있습니다. 한 달을 넘기는 곳이 하나도 없습니다.

그런데 위로 올라가면 사정이 완전히 달라집니다. 랭퓨즈 Pro는 3년, 랭스미스 확장 트레이스는 400일입니다. 3년을 1,095일로 놓고 랭스미스 기본값 14일과 비교하면 약 78배입니다.

같은 “AI 관측 도구”라는 이름 아래에서 이만큼 벌어집니다.

랭퓨즈 — 30일, 90일, 3년으로 계단이 셋

랭퓨즈는 보존 기간을 요금제의 주요 차이로 대놓고 내세우는 쪽입니다. 요금 페이지의 플랜 설명 문구부터 “더 긴 데이터 접근 기간과 무제한 사용자”입니다.

포함량을 넘기면 10만 유닛당 $8이 추가로 붙습니다. 세 유료 플랜의 포함량이 10만 유닛으로 똑같다는 점이 눈에 띕니다. $29에서 $199로 올리면서 사는 것은 사용량이 아니라 기간과 기능입니다.

여기서 “유닛”은 랭퓨즈가 정한 과금 단위입니다. 기록 한 건이 아니라 처리량을 정규화한 값이라, 다른 서비스의 “트레이스 1건”이나 “요청 1건”과 그대로 맞바꿔 계산하면 안 됩니다.

Hobby 플랜에는 조건이 하나 더 있습니다. 사용자 2명입니다. 혼자 쓰거나 둘이 쓰는 동안은 괜찮지만 세 번째 사람이 합류하는 순간 $29가 시작됩니다. 지원도 깃허브 커뮤니티뿐이고, 인앱 지원은 Core부터입니다.

Pro에서 붙는 것도 봐 둘 만합니다. 3년 보존과 함께 데이터 보존 관리 기능, 높은 요청 한도, SOC2·ISO27001 보고서와 HIPAA 대응 리전이 들어옵니다. 보안 서류가 필요한 조직이라면 사실상 여기가 시작점입니다.

기업용 싱글사인온(SSO)이나 세분화된 권한 관리가 필요하면 Teams 애드온이 월 $300 별도로 붙습니다. Pro에 얹으면 월 $499가 됩니다.

랭스미스 — 14일이 기본값이고 400일은 건당 추가

랭스미스는 다섯 곳 중 유일하게 같은 제품 안에서 보존 기간을 두 종류로 나눠 파는 구조입니다.

• 기본 트레이스(base trace): 보존 14일
• 확장 트레이스(extended trace): 보존 400일

그리고 기본 트레이스를 확장 트레이스로 “업그레이드”할 수 있습니다. 추가 요금은 건당 0.0025 LSU입니다. LSU는 랭체인이 정한 저장 단위이고 1 LSU가 $1.00이므로, 한 건을 400일짜리로 바꾸는 데 $0.0025입니다.

1만 건이면 $25, 10만 건이면 $250입니다. 이 숫자를 기억해 두면 뒤에서 계산이 쉬워집니다.

요금제 자체는 이렇습니다.

Developer 플랜은 좌석이 최대 1개입니다. 무료지만 혼자만 쓸 수 있다는 뜻입니다. 팀으로 쓰려면 인원수만큼 $39씩 곱해야 합니다.

랭스미스가 이 구조를 설명하는 방식이 흥미롭습니다. 기본 트레이스는 “빠른 디버깅이나 즉석 분석용”이고, 확장 트레이스는 “사용자·평가자·라벨러의 피드백이 붙어 있어 지속적인 개선과 모델 튜닝에 쓸모 있는” 기록이라는 겁니다. 즉 전부를 오래 들고 있지 말고 가치 있는 것만 골라서 남기라는 설계입니다.

이게 합리적인지 아닌지는 팀의 성격에 달렸습니다. 어느 기록이 나중에 필요해질지 미리 알 수 있는 팀이면 돈을 크게 아낍니다. 반대로 “일단 다 남겨 두고 나중에 뒤진다”가 기본인 팀이면 건당 요금이 계속 붙습니다.

참고로 랭스미스는 요금 페이지에서 고객 데이터를 모델 학습에 쓰지 않는다고 명시합니다. 트레이스·프롬프트·출력이 조직 내부에 남는다는 문장입니다. AI 도구를 고를 때 이 문장의 유무는 생각보다 크게 갈리는 지점인데, 관련해서는 AI 게이트웨이 5곳 쪽에서도 비슷한 축을 다룬 적이 있습니다.

헬리콘 — 보존보다 먼저 막히는 건 분당 처리량

헬리콘은 보존 기간을 전면에 내세우지 않습니다. 요금 페이지의 표에서 눈에 먼저 들어오는 건 분당 로그 처리 한도입니다.

분당 10건이라는 숫자를 잠깐 곱해 보겠습니다. 60을 곱하면 시간당 600건이고, 24를 더 곱하면 하루 1만 4,400건입니다. 그런데 무료 요청은 월 1만 건입니다.

즉 헬리콘 무료 플랜에서는 월 한도가 하루치도 안 되게 설계돼 있습니다. 분당 한도가 아니라 월 1만 건이 먼저 걸린다는 뜻이죠. 반대로 말하면 잠깐씩 몰리는 트래픽은 견디지만 꾸준한 트래픽은 못 견딥니다.

Hobby에는 좌석 1명, 조직 1개라는 제한도 붙습니다. 랭스미스 Developer와 성격이 같습니다.

Pro와 Team의 격차도 큽니다. $79에서 $799로 열 배가 되는데, 분당 로그는 1,000건에서 1만 5,000건으로 열다섯 배가 됩니다. 처리량만 놓고 보면 Team이 단가는 더 싸다는 계산이 나옵니다. 다만 대부분의 팀은 분당 1,000건을 채우지 못하므로 실무에서 의미 있는 비교는 아닙니다.

설립 2년 미만이고 투자 유치액이 500만 달러 미만인 스타트업에는 $100 크레딧을 준다고 요금 페이지에 적혀 있습니다.

브레인트러스트 — 30일이 지나면 보관료가 따로 붙습니다

브레인트러스트는 다섯 곳 중 유일하게 보존을 저장 용량 요금으로 매기는 곳입니다.

핵심은 Pro 줄의 각주입니다. 포함된 30일이 지난 뒤부터는 GB당 월 $0.50이 따로 붙습니다. 최대 180일까지 늘릴 수 있지만 공짜가 아니라 보관료를 내는 방식입니다.

계산해 보면 이렇습니다. 월 5GB를 쓰는 팀이 180일치를 계속 들고 있으면 대략 6개월치가 쌓이므로 30GB 수준이 됩니다. 처음 30일분을 뺀 나머지에 $0.50을 곱하면 월 12달러 남짓이 추가됩니다. 크지 않은 금액이지만, 보존을 늘릴수록 매달 커지는 항목이라는 성격이 다릅니다. 랭퓨즈처럼 정액에 포함되는 방식과는 다르게 움직입니다.

Free 플랜의 모델 크레딧 $10도 눈여겨볼 만합니다. 브레인트러스트가 제공하는 AI 기능(주제 분류 등)이나 내장 모델을 자기 API 키 없이 쓸 때 이 크레딧에서 빠집니다. Pro는 $249 요금에 $249 크레딧이 붙으므로, 크레딧을 다 쓰는 팀이라면 관측 도구 값이 실질적으로 0에 가까워지는 구조입니다.

Free도 신용카드 없이 시작할 수 있고, 자격 요건을 갖춘 스타트업에는 Pro를 6~12개월 무료로 준다고 적혀 있습니다.

애리즈 AX — 스팬 수는 적혀 있고 보존 기간은 없습니다

애리즈 AX는 다섯 곳 중 가장 단순한 요금표를 갖고 있습니다.

무료로 주는 스팬이 2만 5,000개로 다섯 곳 중 가장 넉넉한 축입니다. Pro도 월 $50으로 브레인트러스트 Pro($249)나 헬리콘 Pro($79)보다 쌉니다.

여기서 “스팬(span)“은 트레이스 안의 개별 단계 하나를 말합니다. 사용자 요청 하나가 모델 호출과 도구 호출을 여러 번 거치면 스팬이 여러 개 생깁니다. 그래서 스팬 2만 5,000개는 요청 2만 5,000건이 아닙니다. 에이전트처럼 단계가 많은 구조라면 요청 하나가 스팬 열 개를 만들 수도 있어서, 실제로는 요청 2,500건 수준으로 봐야 할 때도 있습니다. 이 배수는 애플리케이션마다 달라서 공식 페이지가 대신 알려주지 않습니다.

그리고 이 글의 축인 보존 기간이 요금 페이지에 없습니다. SaaS와 셀프호스팅 중에 고를 수 있다는 표시, 셀프호스팅 배포와 기업용 SSO가 Enterprise 항목에 있다는 표시는 있는데, 며칠을 들고 있는지는 적혀 있지 않습니다.

없는 값을 추측해서 표에 넣으면 그 순간 이 글의 표 전체가 못 믿을 물건이 됩니다. 그래서 비워 뒀습니다. 애리즈 AX를 후보에 올린다면 이 항목은 직접 문의해서 받아야 합니다.

무료로 시작했을 때 손에 쥐는 것

돈을 한 푼도 내지 않는 상태에서 다섯 곳이 각각 무엇을 주는지만 따로 모았습니다.

숫자가 크기 순으로 보이지만, 단위가 다섯 개 다 다릅니다. 유닛·트레이스·요청·기가바이트·스팬입니다. 5만이 5,000보다 열 배 크다고 읽으면 안 됩니다.

이 표에서 안전하게 읽을 수 있는 건 두 가지뿐입니다.

첫째, 무료 좌석이 1~2명이라는 것. 랭퓨즈가 2명이고 나머지 중 명시된 곳은 1명입니다. 개인 프로젝트를 넘어가는 순간 전부 유료가 시작됩니다.

둘째, 무료 보존이 한 달을 못 넘는다는 것. 명시된 곳은 14일, 30일, 1개월입니다. 무료 플랜만 쓰면서 “한 달 전 그 요청 좀 보자”는 불가능하다고 보면 됩니다.

월 5만 건짜리 서비스라면 어디에 서게 되나

숫자를 실감 나게 바꿔 보겠습니다. 사용자 요청이 하루 1,700건쯤 들어오는 서비스, 그러니까 월 5만 건 정도를 가정합니다. 개인 서비스가 조금 자리 잡은 규모입니다.

• 랭퓨즈: 5만 유닛은 Hobby 포함량과 같은 자리입니다. 다만 유닛이 요청과 1:1이 아니라 실제로는 더 빨리 소모될 수 있고, 3명째 팀원이 오면 Core $29가 시작됩니다.
• 랭스미스: 5만 트레이스는 Developer 포함량(5,000건)의 열 배, Plus 포함량(1만 건)의 다섯 배입니다. Plus 좌석 1개 $39에 초과분 종량제가 붙습니다. 여기에 그 5만 건을 400일짜리로 다 바꾸면 $125가 추가됩니다.
• 헬리콘: 5만 요청은 Hobby 무료분(1만 건)을 훌쩍 넘깁니다. Pro $79 구간입니다. 분당 1,000건 한도는 여유가 많습니다.
• 브레인트러스트: 기록 크기에 달렸습니다. 5만 건이 1GB를 넘으면 Free 포함량을 넘어 GB당 $4가 붙습니다. 프롬프트가 긴 서비스라면 이 지점이 빨리 옵니다.
• 애리즈 AX: 요청 5만 건이 스팬 몇 개로 늘어나는지에 달렸습니다. 요청당 스팬 2개만 잡아도 10만 스팬이라 Pro($50) 포함량(5만)을 넘깁니다.

한 줄로 정리하면, 월 5만 건 규모에서 다섯 곳 모두 무료 구간을 벗어납니다. 그리고 그때 내야 하는 돈이 $29에서 $249까지 벌어집니다.

이 지점에서 계산이 왜 어긋나는지는 다른 AI 도구에서도 반복되는 문제입니다. 벡터 DB 5곳에서도 각 서비스가 서로 다른 것을 세고 있었습니다.

사람 수 제한이 조용히 걸리는 자리

보존 다음으로 실제 청구서를 흔드는 게 좌석입니다. 관측 도구는 개발자만 보는 게 아니라 기획자와 CS 담당자도 열어 보게 되는 도구라서, 좌석 정책이 생각보다 빨리 걸립니다.

• 랭퓨즈: Hobby 2명 → Core($29)부터 무제한. 요금이 사람 수에 따라 늘지 않습니다.
• 랭스미스: 좌석당 과금입니다. Developer는 1명, Plus는 1명당 $39. 5명이면 월 $195입니다.
• 헬리콘: Hobby 1명 → Pro($79)부터 무제한.
• 브레인트러스트·애리즈 AX: 요금 페이지에 좌석 수 제한이 명시돼 있지 않습니다.

여기서 갈림이 선명합니다. 랭스미스만 사람 수에 비례해서 늘고, 랭퓨즈와 헬리콘은 정액입니다. 5명 팀이면 랭스미스 Plus $195 대 랭퓨즈 Core $29입니다. 6.7배 차이인데, 이건 보존 기간과 완전히 다른 축입니다.

클라우드가 아니라 내 서버에 올린다면

관측 도구는 요청과 응답 전문이 그대로 쌓이는 곳이라, 데이터를 밖에 두기 어려운 조직이 있습니다. 그럴 때 직접 서버에 올리는 선택지를 보게 됩니다.

랭퓨즈는 요금 페이지에 클라우드와 셀프호스팅을 나란히 배치해 두고, 쿠버네티스(Helm)·AWS·GCP·애저용 설치 가이드를 링크로 걸어 둡니다. 요금 FAQ에도 “랭퓨즈를 무료로 셀프호스팅할 수 있나요”라는 항목이 따로 있습니다.

애리즈 AX는 Enterprise 항목에 “SaaS 또는 셀프호스팅”과 “셀프호스팅 배포”가 적혀 있습니다. 즉 셀프호스팅이 되긴 하지만 위쪽 플랜의 옵션으로 배치돼 있습니다.

브레인트러스트는 Enterprise에서 S3로 트레이스를 내보내는 기능을 제공합니다. 완전한 셀프호스팅과는 다른 이야기지만, 장기 보관을 자기 스토리지로 옮기는 길은 열려 있는 셈입니다.

셀프호스팅을 고를 때 계산에서 자주 빠지는 게 있습니다. 서버 비용과 운영 인력입니다. 월 $29를 아끼려고 관측 도구용 데이터베이스를 직접 운영하기 시작하면 그 시간이 $29보다 비싸질 가능성이 높습니다. 데이터를 밖에 둘 수 없는 이유가 있을 때만 유효한 선택지로 보는 편이 맞습니다.

확인하지 못해 비워 둔 칸

이 글에 넣지 못한 값들을 밝혀 둡니다. 공식 요금 페이지에 없어서 확인하지 못한 것들입니다.

• 애리즈 AX의 데이터 보존 기간. 이 글의 축인데도 값을 못 넣었습니다. 요금표에는 스팬 수, 데이터 용량, 이슈 수만 있습니다.
• 브레인트러스트와 애리즈 AX의 좌석 제한. 요금 페이지에 인원 제한 표기가 없습니다. 무제한이라는 뜻인지 표기를 생략한 것인지는 페이지만으로 판단할 수 없습니다.
• 랭퓨즈 유닛의 환산 기준. 요청 한 건이 몇 유닛인지는 애플리케이션에 따라 달라집니다. 요금 계산기가 별도로 있습니다.
• 애리즈 AX의 요청당 스팬 배수. 에이전트 구조에 따라 크게 달라져서 일반화할 수 없습니다.
• 한국 원화 가격. 다섯 곳 모두 달러 표기입니다. 환율과 부가세는 결제 시점에 달라집니다.

그리고 표시 가격은 대부분 월 결제 기준이며, 연간 결제나 스타트업 할인이 붙으면 실제 청구액은 달라집니다. 랭퓨즈는 스타트업·교육·오픈소스 할인을 이메일로 신청받고, 헬리콘은 조건부 $100 크레딧, 브레인트러스트는 자격 요건을 갖춘 스타트업에 Pro 6~12개월 무료를 제시합니다.

고르는 법 — 사고를 며칠 만에 알아채는 팀인가

요금표부터 보면 계속 틀립니다. 순서를 이렇게 잡으면 후보가 빨리 줄어듭니다.

첫째, 우리 팀이 문제를 며칠 만에 알아채는지 세어 보세요. 최근에 처리한 버그 리포트 몇 건의 “발생일과 인지일”을 빼 보면 됩니다. 그 숫자가 14일보다 크면 랭스미스 기본 트레이스만으로는 부족합니다. 30일보다 크면 무료 플랜은 어디도 답이 아닙니다.

둘째, 이 화면을 열어 볼 사람이 몇 명인지 세어 보세요. 개발자만이면 랭스미스 좌석 과금이 감당됩니다. CS와 기획까지 열어 본다면 정액제인 랭퓨즈나 헬리콘 쪽이 유리해집니다.

셋째, 그 다음에야 사용량을 봅니다. 앞의 두 조건을 통과한 후보가 둘 이상 남았을 때만 유닛·트레이스·스팬을 환산하면 됩니다. 하나만 남았다면 환산할 필요가 없습니다.

성격별로 정리하면 이렇습니다.

• 혼자 만드는 개인 프로젝트: 애리즈 AX Free(월 2만 5,000 스팬)나 랭퓨즈 Hobby(월 5만 유닛)가 가장 여유롭습니다. 다만 둘 다 오래된 기록은 못 봅니다.
• 랭체인·랭그래프로 만든 서비스: 랭스미스가 같은 회사 제품이라 붙이기가 가장 쉽습니다. 대신 14일 기본값과 좌석 과금을 미리 계산하세요. 프레임워크 선택 자체가 고민이라면 AI 에이전트 프레임워크 5곳 쪽을 먼저 보시는 게 순서입니다.
• 여러 사람이 함께 들여다보는 팀: 랭퓨즈 Core $29가 좌석 무제한에 90일 보존으로 가성비가 가장 뚜렷합니다.
• 몇 달 전 기록까지 되짚어야 하는 서비스: 랭퓨즈 Pro($199, 3년)가 유일하게 연 단위를 정액으로 덮습니다.
• 평가와 실험이 주 목적인 팀: 브레인트러스트가 점수·사람 검수·플레이그라운드 주석을 요금표 전면에 배치합니다. 모델 크레딧이 요금과 같은 금액으로 돌아온다는 점도 계산에 넣으세요.
• 데이터를 밖에 못 두는 조직: 랭퓨즈 셀프호스팅이 문서가 가장 잘 갖춰져 있습니다.

결론은 보존 기간에서 끝납니다

다섯 곳을 하루 종일 비교해도 결국 이 한 줄로 돌아옵니다.

무료 플랜은 전부 한 달을 못 버팁니다. 14일에서 30일 사이입니다. 그리고 우리가 문제를 알아채는 데 걸리는 시간은 대개 그보다 깁니다.

그러니 지금 당장 할 일은 요금표를 다시 읽는 게 아닙니다. 최근 버그 리포트를 몇 건 열어서 발생일과 인지일의 간격을 세어 보는 것입니다. 그 숫자 하나가 다섯 후보 중 몇 개를 지울지 정합니다.

확인한 출처 (2026년 8월 26일 직접 조회)

• Langfuse Pricing
• LangSmith Pricing (LangChain)
• Helicone Pricing
• Braintrust Pricing
• Arize AX Pricing