OpenRouter와 LiteLLM 비교: 요금부터 API 키·데이터 통제까지

OpenRouter와 LiteLLM의 요금, API 키 관리, BYOK, 폴백, 예산, 캐싱과 데이터 처리 방식을 비교합니다. 소규모·성장 단계의 월간 비용 계산과 손익분기점, 이전 전 확인 사항을 통해 자체 호스팅과 관리형 게이트웨이 중 제품에 맞는 선택을 판단할 수 있습니다.

게시일

작성자
OpenRouter와 LiteLLM 비교: 요금부터 API 키·데이터 통제까지

게이트웨이를 직접 운영하면서 모델 제공업체의 인증 정보를 자체 인프라 안에서 관리해야 한다면 LiteLLM이 적합합니다. 호스팅형 라우팅과 통합 모델 결제를 원한다면 OpenRouter를 선택할 수 있습니다. OpenRouter의 Standard 크레딧 구매 수수료는 5.5%이며, LiteLLM 오픈소스 소프트웨어의 라이선스 비용은 $0입니다. 두 서비스를 비교할 때 핵심은 게이트웨이 운영 주체, 추론 비용을 부담하는 계정, 그리고 절감한 수수료가 운영비를 충당할 수 있는지입니다.

OpenRouter와 LiteLLM, 어떤 서비스를 선택해야 할까요?

별도 서비스를 운영하지 않고 여러 모델 제공업체를 이용하려는 개발자에게는 OpenRouter가 유리합니다. 게이트웨이와 인증 정보, 트래픽 정책을 직접 통제하는 인프라 안에서 운영해야 한다면 LiteLLM이 유리합니다. 사용량이 많다는 이유만으로 답이 정해지지는 않습니다. OpenRouter에서 자체 API 키를 사용하는 방식은 추론 크레딧을 구매하는 방식과 비용 구조가 다르기 때문입니다.

게이트웨이는 제품과 모델 제공업체 사이에서 요청을 중계합니다. 이 글에서는 Python SDK만이 아니라 LiteLLM의 자체 호스팅 Proxy Server와 OpenRouter의 호스팅형 서비스를 비교합니다. OpenRouter는 크레딧 결제 방식과 자체 API 키를 사용하는 BYOK 방식 모두를 다룹니다.

요금과 문서는 2026년 10월 12일에 확인했습니다. LiteLLM 요금 페이지와 OpenRouter 요금 페이지도 확인 대상에 포함했습니다. 아래 청구액은 공개된 수수료를 바탕으로 계산했습니다. 로그인 후 서비스를 직접 사용하거나 지연 시간을 벤치마크하지는 않았습니다.

도입 전 확인할 사항LiteLLM ProxyOpenRouter
게이트웨이는 누가 운영하나요?사용자가 직접 배포하고 운영합니다.OpenRouter가 호스팅형 라우팅을 운영합니다.
기본 게이트웨이 비용Open Source: 라이선스 $0. 인프라와 유지보수 비용은 별도입니다. Enterprise: 연간 견적 방식입니다.Standard 크레딧 구매: 5.5%, 최소 $0.80. BYOK에는 별도의 수수료 면제 한도와 수수료가 적용됩니다.
모델 제공업체에 누가 비용을 지불하나요?설정한 제공업체 계정으로 결제합니다.크레딧 방식은 OpenRouter를 통해 결제합니다. BYOK는 자체 제공업체 계정으로 결제하며, 해당하는 OpenRouter 수수료가 추가됩니다.
폴백모델 그룹, 재시도, 폴백을 설정합니다.제공업체 폴백과 순서가 지정된 모델 폴백 목록을 지원합니다.
키별 예산과 호출 한도가상 키별 예산과 분당 요청 수·분당 토큰 수 제한을 지원합니다.키별 지출 한도와 초기화 주기를 설정할 수 있으며, 제공업체·플랫폼의 호출 한도가 적용됩니다. 키 생성 문서에는 사용자가 키별 RPM/TPM을 설정하는 항목이 없습니다.
로깅요청·응답 기록, 지출 추적, 로그 저장 대상 설정을 지원합니다.활동 로그와 내보내기를 지원합니다. 비공개 입력·출력 로깅은 직접 활성화해야 합니다.
캐싱로컬, Redis 및 문서에 명시된 다른 백엔드에 응답을 캐시합니다.제공업체의 프롬프트 캐싱과 선택적으로 활성화하는 게이트웨이 응답 캐싱을 지원합니다.
모델 카탈로그100+ 제공업체와 연동합니다. 보유한 접근 권한에 맞게 설정합니다.유료 카탈로그에 80+ 제공업체의 500+ 모델이 등록되어 있습니다.
도입을 포기할 수 있는 조건가용성과 설정을 직접 책임져야 하며, 예산 기능에는 데이터베이스가 필요합니다.BYOK를 사용해도 호스팅형 게이트웨이가 요청 경로에 남습니다.

기능별 비교는 LiteLLM 아키텍처, OpenRouter API 키 스키마, 그리고 아래에서 인용하는 라우팅·로깅·캐싱 문서를 기준으로 합니다. 연동 가능한 제공업체 수와 구매 가능한 모델 수는 서로 다른 지표입니다. 어느 쪽 숫자도 필요한 모델·리전·기능 조합을 실제로 사용할 수 있다는 보장은 아닙니다.

플랫폼 운영 전담자가 없는 소규모 제품이라면, 호스팅형 요청 경로가 구체적인 요구사항에 어긋나지 않는 한 OpenRouter로 시작하는 편이 좋습니다. 이미 공용 인프라를 운영하고 있고 키별 호출 한도를 중앙에서 강제해야 한다면 LiteLLM을 선택할 수 있습니다. 사용량이 늘어나 제공업체와 별도 계약을 맺은 제품이라면 OpenRouter BYOK와 LiteLLM을 비교해야 합니다. 크레딧 구매 수수료를 BYOK에도 똑같이 적용해서는 안 됩니다.

API 키는 누가 보관하고, 비용은 누가 청구하며, 요청은 어디를 거칠까요?

LiteLLM은 게이트웨이 영역을 직접 통제하게 해주고, OpenRouter는 관리형 중계 서비스를 제공합니다. BYOK는 상위 제공업체에 사용하는 인증 정보와 비용 부담 주체를 바꿀 뿐, 중계 서비스를 없애지는 않습니다.

LiteLLM: 게이트웨이와 제공업체 계정을 직접 관리

LiteLLM은 애플리케이션과 모델 제공업체 사이에 직접 배포하는 오픈소스 게이트웨이입니다. 문서에 설명된 요청 처리 과정은 가상 키 확인, 예산·호출 한도 적용, 라우팅, 제공업체 API 형식으로의 변환 순서입니다. 가상 키는 게이트웨이가 발급하는 애플리케이션용 인증 정보이므로, 애플리케이션이 상위 제공업체의 비밀 키를 각각 보유할 필요가 없습니다. LiteLLM 요청 처리 아키텍처.

Open Source와 Enterprise를 안내하는 LiteLLM 공개 요금 페이지
LiteLLM 요금

추론 비용은 설정한 제공업체 계정에 청구됩니다. 게이트웨이 운영 예산은 별도로 필요합니다. 컴퓨팅 자원, 키와 지출 정보를 관리하는 데이터베이스, 필요에 따라 배포하는 캐시나 공용 호출 한도 관리 인프라가 여기에 포함됩니다. 프로덕션 배포 문서는 이러한 구성 요소를 설명하지만, 모든 환경에 적용할 수 있는 호스팅 비용을 제시하지는 않습니다.

인증 정보와 배포 환경을 통제하는 데는 LiteLLM이 유리합니다. 업그레이드, 데이터베이스 가용성, 요청 실패를 책임질 사람이 없다면 도입을 피하는 편이 좋습니다. 소프트웨어가 무료라고 운영 담당자까지 생기는 것은 아닙니다.

OpenRouter: 호스팅형 라우팅을 쓰면서 결제 주체 선택

OpenRouter는 호스팅형 게이트웨이와 모델 카탈로그를 제공합니다. 크레딧을 구매하면 애플리케이션은 OpenRouter 키를 사용하고 사용량만큼 잔액이 차감됩니다. BYOK에서는 사용자가 제공업체의 인증 정보를 등록합니다. OpenRouter는 해당 키를 암호화해 보관하고 지정한 제공업체로 보내는 요청에 사용한다고 설명합니다. 추론 사용료는 제공업체 계정에 청구되며, 적용되는 라우팅 수수료는 OpenRouter 크레딧에서 차감됩니다. OpenRouter BYOK 문서.

Standard, Business, Enterprise를 비교하는 OpenRouter 공개 요금표
OpenRouter 요금

특히 주의할 기본 동작은 공유 용량으로의 폴백입니다. 우선순위로 지정한 BYOK 키가 요청을 처리하지 못하면 OpenRouter가 자체 용량을 사용하고 OpenRouter 크레딧을 차감할 수 있습니다. 제공업체 단위에서 가장 강하게 제한하는 설정은 이 제공업체의 모든 모델에서 공유 용량 사용 안 함입니다. 다만 허용할 제공업체도 함께 제한하지 않으면 다른 제공업체가 요청을 처리할 수 있습니다. 이는 단순한 가용성 설정이 아니라 비용 부담 주체를 정하는 정책입니다.

모델 카탈로그를 바로 이용하고, 구매를 통합하며, 게이트웨이 운영을 맡기려면 OpenRouter가 유리합니다. 기존 제공업체 계정을 유지해야 한다면 BYOK를 선택하되, 폴백 시 비용이 OpenRouter 쪽으로 넘어가도 되는지는 명시적으로 결정해야 합니다.

두 요청 경로 비교: LiteLLM은 애플리케이션 인프라 내부에서 원격 제공업체로 요청을 전달하고, OpenRouter는 BYOK를 사용해도 인프라 외부에 위치합니다
자체 호스팅은 게이트웨이의 경계를 바꿉니다. BYOK는 제공업체 인증 정보를 바꾸지만, 호스팅형 요청 경로는 그대로 유지됩니다.

OpenRouter 요금: 크레딧 구매와 BYOK의 차이

OpenRouter는 크레딧 충전에 수수료를 부과하고, BYOK는 면제 한도를 넘으면 라우팅 수수료를 부과합니다. 두 비용은 별개입니다. FAQ에 명시된 크레딧 구매 수수료는 구매 건당 5.5%, 최소 $0.80이며, **암호화폐 결제 수수료는 5%**입니다. 제공업체의 기본 추론 요금에는 마진을 붙이지 않습니다. OpenRouter 수수료 FAQ.

확인 시점의 요금표에는 Standard 5.5%, Business **8%**로 표시되어 있습니다. 두 플랜 모두 매월 정가 기준 $25,000 상당의 추론까지 BYOK 수수료를 면제하고, 초과분에는 5%를 부과합니다. Enterprise 조건은 개별 협의입니다. 아래 계산 예시는 Standard 기준이므로, 해당 요율을 Business에 적용하면 안 됩니다. 현재 요금표.

BYOK 수수료는 같은 모델과 제공업체를 OpenRouter에서 일반적으로 이용할 때의 가격을 기준으로 계산합니다. 제공업체로부터 할인받은 실제 청구액과 반드시 같지는 않습니다. 면제 한도는 요청 건수가 아닌 추론 금액으로 산정하며, 수수료는 OpenRouter 크레딧에서 차감됩니다. BYOK 수수료 산정 기준.

충전 비용과 사용 요금을 더 자세히 알아보려면 OpenRouter 요금 가이드를 참고할 수 있습니다.

LiteLLM Open Source와 Enterprise의 비용 구조

LiteLLM Open Source는 프로덕션 환경에서도 라이선스 비용이 없습니다. 요금 페이지에는 가상 키, 지출 추적, 예산, 호출 한도, 폴백, 요청·응답 로깅, Prometheus 메트릭이 포함되어 있습니다. 이 기능들이 모두 Enterprise 전용인 것은 아닙니다. LiteLLM 플랜.

Enterprise는 SSO/SCIM, OIDC/JWT 인증, 감사 로그, 비밀 정보 관리 도구, 키 교체 등 ID·조직 관리 기능과 지원·배포 옵션을 추가합니다. 요금은 연간 단위로 책정되며 토큰 지출액이 아니라 게이트웨이의 요청 처리 용량, 아키텍처, 지원 요구사항에 따라 달라집니다. 월간 비용 비교에 넣을 수 있는 공개 금액은 없으므로 실제 견적을 사용해야 합니다.

월간 비용 비교: 소규모 사용과 사용량이 늘어난 경우

월간 추론 금액을 정가 기준 $50,000으로 가정하면 Standard 크레딧 방식의 비용은 $52,750입니다. 아래 충전 조건에서 Standard BYOK만 사용하면 $51,318.75이며, LiteLLM Open Source는 $50,000에 자체 운영비가 더해집니다. 이는 계산 예시이며, 패키지 견적이나 실제 워크로드 측정 결과가 아닙니다.

같은 모델, 제공업체, 토큰 구성을 기준으로 월간 추론 금액을 B로 둡니다. 소규모 사례는 $100, 사용량이 늘어난 사례는 공개된 BYOK 면제 한도의 두 배인 $50,000입니다. 제공업체 청구액은 정가와 같고, 캐시 절감이나 별도 계약 할인, 공유 용량 폴백은 없다고 가정합니다. Standard 크레딧은 암호화폐 이외의 결제 수단으로 한 번 충전해 전액 사용합니다. 세금과 선택형 부가 기능은 비교에서 제외합니다.

H는 LiteLLM의 실제 월간 호스팅·유지보수 비용입니다. 임의로 추정한 서버 비용을 대신 넣어서는 안 됩니다.

월간 청구액소규모: B = $100사용량 증가: B = $50,000
LiteLLM Open Source$100 + H$50,000 + H
OpenRouter Standard 크레딧$105.50$52,750
OpenRouter Standard BYOK$100$51,318.75

이 계산에는 크레딧 구매 수수료와 현재 BYOK 면제 한도를 적용했습니다. BYOK만 사용하는 달에 라우팅 수수료가 발생하지 않으면 크레딧을 구매할 필요가 없다고 가정합니다.

사용량이 늘어난 사례를 크레딧으로 결제하면 $50,000의 크레딧을 구매하고 $50,000 × 5.5% = $2,750의 수수료를 추가로 지불합니다. 실제 총지출은 $52,750입니다.

같은 워크로드를 BYOK로 처리하면 제공업체 청구액은 $50,000입니다. 라우팅 수수료는 면제 한도를 초과한 추론 금액에 적용되므로 ($50,000 − $25,000) × 5% = $1,250입니다. 이 수수료를 낼 Standard 크레딧을 구매할 때 $1,250 × 5.5% = $68.75가 추가됩니다. 합계는 $50,000 + $1,250 + $68.75 = $51,318.75입니다. 충전 수수료는 구매한 크레딧으로 BYOK 수수료를 지불하기 때문에 발생하는 비용이며, 제공업체 청구액에 수수료를 한 번 더 부과하는 것은 아닙니다.

정가 기준 추론 금액이 $50,000일 때 계산된 게이트웨이 수수료는 Standard 크레딧 $2,750, Standard BYOK $1,318.75이며, LiteLLM의 라이선스 비용은 운영비를 제외하면 무료입니다
명시된 Standard 충전 조건에 따른 수수료 계산입니다. 공통으로 발생하는 추론 비용과 LiteLLM의 호스팅·유지보수·Enterprise 비용은 제외했습니다.

손익분기점은 OpenRouter 결제 방식에 따라 달라집니다

Standard 크레딧과 비교하면, H가 절감되는 크레딧 구매 수수료보다 작을 때 LiteLLM이 더 저렴합니다. 최소 수수료가 적용되는 구간을 넘어서면 손익분기점은 B = H ÷ 0.055입니다. 소규모 워크로드에서 H를 충당할 수 있는 금액은 $5.50에 불과하며, 사용량이 늘어난 사례에서는 $2,750입니다.

Standard BYOK만 사용하는 경우와 비교하면, 면제 한도 이하에서는 절감할 라우팅 수수료가 없습니다. 한도를 초과하고 비율로 계산한 충전 수수료도 최소 수수료를 넘는 구간의 손익분기점은 B = $25,000 + H ÷ 0.05275입니다. 사용량이 늘어난 사례에서 이 비용만으로 LiteLLM이 더 저렴하려면 운영비가 월 $1,318.75 미만이어야 합니다. Enterprise 라이선스를 사용하면 H 대신 H에 실제 견적의 월 환산액을 더한 금액을 적용합니다.

제공업체 할인, 모델 가격, 크레딧 구매 단위, 폴백 사용량이 달라지면 청구액도 바뀝니다. 요청마다 토큰 비용이 다르므로 요청 건수만으로 손익분기점을 찾을 수는 없습니다.

폴백·예산·캐싱, 기능별로 어떤 선택이 유리할까요?

게이트웨이 내부의 제어 기능을 직접 운영하려면 LiteLLM이, 게이트웨이를 유지보수하지 않고 라우팅을 이용하려면 OpenRouter가 유리합니다. 중요한 차이는 폴백 지원 여부 자체가 아니라 설정 방식과 적용 범위입니다.

라우팅과 폴백: 관리형 장애 전환은 OpenRouter

OpenRouter의 제공업체 라우터는 제공업체 우선순위, 허용 목록, allow_fallbacks 설정을 지원합니다. 별도의 models 배열은 기본 모델이 요청을 처리하지 못할 때 대체 모델을 순서대로 시도합니다. 같은 모델을 제공하는 업체를 바꾸는 것과 모델 자체를 바꾸는 것은 제품 관점에서 서로 다른 결정이므로 구분해야 합니다. 제공업체 라우팅, 모델 폴백.

LiteLLM 문서는 설정된 모델 그룹 안에서의 재시도와 다른 그룹으로의 폴백을 설명합니다. 해당 배포 환경과 규칙은 사용자가 직접 관리합니다. LiteLLM 라우팅 아키텍처.

장애 전환 운영을 맡기려는 개발자에게는 OpenRouter가 유리합니다. 허용된 폴백 대상이 이미 직접 관리하는 배포 환경이라면 LiteLLM을 선택할 수 있습니다. 폴백 목록만으로 지연 시간의 우열을 판단할 수는 없으며, 이 비교 역시 어느 쪽이 더 빠른지 입증하지 않습니다.

예산과 키별 호출 한도: 트래픽 통제는 LiteLLM

LiteLLM은 가상 키에 예산과 분당 요청 수(RPM), 분당 토큰 수(TPM) 제한을 설정할 수 있습니다. 지출 한도는 누적 비용을, 호출 한도는 애플리케이션이 처리 용량을 얼마나 빠르게 소비할 수 있는지를 제어합니다. 고객이 월간 예산을 넘지 않더라도 원치 않는 요청 폭주를 일으킬 수는 있습니다. LiteLLM 예산·호출 한도 설정.

분명한 제약은 데이터베이스 의존성입니다. LiteLLM 문서는 데이터베이스 없이 배포하면 예산으로 사용량을 제한할 수 없다고 명시합니다. 전역 예산 검사는 실패 시 요청을 허용하는 방식으로 동작하며, 키·사용자·팀별 예산은 사용할 수 없습니다. 필요한 기반 서비스가 없다면 설정 파일에 예산 값을 적는 것만으로는 충분하지 않습니다.

OpenRouter 문서에는 키별 달러 지출 한도, 초기화 주기, include_byok_in_limit 설정이 나옵니다. 키 생성 스키마에는 사용자가 키별 RPM/TPM을 지정하는 필드가 없으며, 한도 안내 페이지는 플랫폼과 제공업체의 처리 용량 제한을 설명합니다. 키별 지출 한도와 애플리케이션별 처리량 제한을 같은 기능으로 봐서는 안 됩니다. 키별 제어 설정, 호출·예산 한도.

키별 지출과 처리량 규칙이 필수라면 LiteLLM이 유리합니다. OpenRouter도 지출 제어 기능을 제공하지만, 문서상 적용 범위가 실제 결제 계정과 맞는지 확인해야 합니다.

로깅과 캐싱: 저장 위치 통제는 LiteLLM

LiteLLM은 로그 저장 대상 설정과 메시지 내용 가림 처리를 지원하며, 지출 메타데이터는 유지할 수 있습니다. 응답 캐시는 로컬, Redis 및 문서에 명시된 다른 백엔드를 지원합니다. 완전 일치 캐싱은 동일한 요청에 기존 응답을 재사용합니다. 로깅 설정, 캐시 백엔드.

OpenRouter의 비공개 입력·출력 로깅은 직접 활성화해야 합니다. 또한 문서는 게이트웨이 응답 캐싱과 제공업체 프롬프트 캐싱을 별개로 설명합니다. 응답 캐싱은 동일한 요청에 대해 제공업체를 호출하지 않고 저장된 응답을 반환할 수 있는 기능이고, 프롬프트 캐싱은 제공업체 내부에서 프롬프트 처리 결과를 재사용하는 기능입니다. 응답 캐싱은 활성화하기 전까지 꺼져 있으며, API 키 단위로 적용됩니다. 비공개 로깅, 응답 캐싱, 프롬프트 캐싱.

게이트웨이 로그와 캐시의 저장 위치를 직접 정하려면 LiteLLM이 유리합니다. 더 간편한 호스팅형 선택지는 OpenRouter입니다. 다만 도입 전에 캐시의 구체적인 제약을 확인해야 합니다. 계정 수준의 데이터 무보관 설정은 응답 캐싱을 비활성화하지만, 요청별 provider.zdr 설정은 캐시 사용 가능 여부를 바꾸지 않습니다. 데이터를 보관하지 않는 제공업체만 사용하도록 요구하더라도, 그것만으로 게이트웨이 응답 캐시의 데이터 보관이 중단되지는 않습니다.

데이터 처리: 직접 운영해도 외부 전송이 사라지는 것은 아닙니다

LiteLLM은 요청 경로에서 호스팅형 게이트웨이 업체를 제거하지만, 원격 추론을 로컬 추론으로 바꾸지는 않습니다. 보안 페이지는 “자체 호스팅 시 LiteLLM 서버에는 데이터나 텔레메트리가 저장되지 않습니다”라고 설명합니다. 그러나 아키텍처상 요청은 여전히 선택한 모델 제공업체로 전달됩니다. LiteLLM 보안, 요청 경로.

사용자는 프록시와 로그, 설정한 전송 대상을 통제할 수 있습니다. 그렇다고 상위 제공업체의 정책이나 사용자가 활성화한 외부 로깅 서비스의 정책까지 적용되지 않는 것은 아닙니다.

OpenRouter는 “OpenRouter의 모든 프롬프트 보관은 사용자가 동의한 경우에만 이루어집니다”라고 설명합니다. 비공개 디버깅 로그와 제품 개선을 위한 입력·출력 사용 허용을 구분하며, 두 설정 모두 기본적으로 꺼져 있습니다. 요청 메타데이터는 저장하고, 분류 목적으로 소량의 프롬프트를 샘플링해 데이터 무보관 정책이 적용되는 모델로 처리한다고 설명합니다. 입력·출력 사용에 동의하지 않은 경우에는 분류 결과를 익명으로 저장하며 계정이나 사용자 ID에 연결하지 않는다고 명시합니다. OpenRouter 데이터 수집.

상위 제공업체의 데이터 처리는 별도로 살펴봐야 합니다. OpenRouter 문서는 보관 정책과 학습 정책을 구분하며, 데이터 무보관, 즉 ZDR 조건에 맞는 엔드포인트만 사용하도록 필터링하는 기능을 제공합니다. 데이터를 학습에 사용하지 않는다는 약속과 데이터를 보관하지 않는다는 약속은 다릅니다. ZDR 문서는 활성화된 플러그인과 툴에 자체 보관 정책이 있을 수 있다고도 안내합니다. 제공업체 정책, ZDR 설정.

게이트웨이의 데이터 처리를 직접 통제하려면 LiteLLM이 유리합니다. OpenRouter도 조직의 호스팅 서비스 이용 정책에 부합할 수 있지만, 게이트웨이·제공업체·캐시·활성화한 툴을 각각 평가해야 합니다. BYOK라는 사실만으로는 이러한 보관 정책을 판단할 수 없습니다.

OpenRouter에서 LiteLLM으로, 또는 반대로 이전하려면

마이그레이션의 비용은 API 주소 변경보다 API 주변의 정책과 비용 정산 체계를 다시 구축하는 데서 발생합니다. 요청 형식이 호환되어도 제공업체 계약, 예산, 과거 로그, 폴백 규칙까지 옮겨지는 것은 아닙니다.

  1. 경로별 결제 주체와 인증 정보를 정리합니다

    LiteLLM으로 옮긴다면 크레딧으로 이용하던 접근 방식을 대체할 제공업체 인증 정보와 계정을 확인합니다. OpenRouter로 옮긴다면 크레딧 구매와 BYOK 중에서 선택하고, 폴백 요청에 공유 용량을 사용해 비용이 청구되어도 되는지 정합니다.

  2. 모델과 동작을 대응시킵니다

    제품에서 사용하는 모델 식별자나 별칭, 허용된 제공업체, 지원되는 요청 매개변수, 폴백 대상을 기록합니다. 카탈로그의 모든 항목을 서로 바꿔 써도 된다고 가정하지 말고, 애플리케이션이 의도한 모델 동작을 유지해야 합니다.

  3. 예산·호출 한도·보관 정책을 명시적으로 재구성합니다

    키별 지출 정책과 초기화 주기, 필요한 처리량 제한을 이전합니다. LiteLLM에는 예산 기능에 필요한 데이터베이스도 포함해야 합니다. OpenRouter에서는 BYOK 지출을 어느 예산에 포함할지 결정합니다. 로그와 캐시의 보관 정책은 제공업체의 보관 정책과 별도로 문서화합니다.

  4. 정산 기준과 롤백 지점을 유지합니다

    기존 사용 기록을 내부 정책에 따라 보관하고, 전환 시점을 기록하며, 이전 라우팅 설정을 다시 사용할 수 있도록 유지합니다. 이전 후 제공업체 청구서와 게이트웨이 크레딧 내역을 대조할 담당자도 지정합니다.

정상적으로 운영되는 소규모 OpenRouter 제품이라면, 별도 서비스 운영비보다 적은 수수료를 피하려는 이유만으로 LiteLLM으로 옮기지 않는 편이 좋습니다. 게이트웨이를 직접 관리해야 한다는 요구사항이 확고하다면 잘 운영 중인 LiteLLM을 호스팅형 라우터로 바꿔서도 안 됩니다. 제품에 필요한 구체적인 모델과 기능을 확인하지 않은 채 카탈로그가 더 크다는 이유만으로 이전하는 것도 피해야 합니다.

두 서비스를 함께 사용할 수도 있습니다. LiteLLM은 OpenRouter를 상위 제공업체로 연동하는 방법을 문서화하고 있습니다. 이 구성은 로컬 제어 지점을 유지하면서 OpenRouter 카탈로그를 이용하게 해주지만, OpenRouter의 요청 경로와 해당 수수료도 그대로 남습니다. 호스팅형 추론을 완전한 로컬 시스템으로 바꾸는 방법은 아닙니다.

OpenRouter 대안: Vercel과 Cloudflare

호스팅형 서비스의 수수료를 비교한다면 Vercel AI Gateway부터 살펴볼 만합니다. Cloudflare AI Gateway는 게이트웨이 제어 기능이 기존 인프라에 맞을 때 검토할 수 있습니다. 어느 쪽이든 어떤 인증 정보로 비용이 청구되는지 이해해야 합니다.

Vercel AI Gateway는 토큰 마진과 플랫폼 수수료가 없으며, BYOK에도 게이트웨이 수수료를 부과하지 않는다고 안내합니다. BYOK를 사용하려면 크레딧을 구매해야 합니다. BYOK 요청이 실패하면 시스템 인증 정보로 재시도해 게이트웨이 잔액에서 비용을 차감할 수 있습니다. 무료 티어는 대상 모델에 사용할 수 있는 월 $5를 제공하지만, 크레딧을 구매하면 이 월간 무료 한도는 종료됩니다. 결제 처리 수수료와 선택형 부가 기능의 비용은 별도로 발생할 수 있습니다. Vercel 공식 요금 안내.

크레딧과 BYOK 조건을 설명하는 Vercel AI Gateway 요금 문서
Vercel AI Gateway 요금

Cloudflare AI Gateway는 기본 분석, 캐싱, 호출 한도 기능을 무료로 제공합니다. Unified Billing은 크레딧 구매 금액에 5%를 추가합니다. 문서의 예시는 $100 크레딧을 구매할 때 $105가 청구되는 방식이며, 제공업체의 추론 요금은 그대로 적용됩니다. 첫 게이트웨이를 2026년 9월 24일 또는 그 이후에 만든 신규 고객에게는 Workers Logs 요금이 적용됩니다. 따라서 게이트웨이 기능이 무료라고 로깅도 무제한 무료인 것은 아닙니다. Cloudflare 공식 요금 안내.

기본 기능, 로깅, Unified Billing 수수료를 안내하는 Cloudflare AI Gateway 요금 문서
Cloudflare AI Gateway 요금

이 신규 로깅 계정에 적용되는 Workers Paid에는 월 2,000만 건의 로그가 포함되며, 초과분은 100만 건당 $0.60입니다. Free 플랜에는 하루 200,000건의 로그가 명시되어 있습니다. Workers Logs 요금. 인증 정보에 따른 결제 규칙은 Cloudflare의 비용 부담 주체 제어에 관한 글에서, 더 폭넓은 후보 비교는 OpenRouter 대안 비교에서 다룹니다.

도입 전에 자주 묻는 질문

OpenRouter와 LiteLLM에서 제공업체 API 키는 누가 관리하나요?

자체 호스팅 LiteLLM에서는 게이트웨이의 제공업체 인증 정보를 직접 통제합니다. OpenRouter BYOK에서는 호스팅 서비스에 제공업체 키를 등록하며, OpenRouter는 이를 암호화한다고 설명합니다. 크레딧 방식으로 OpenRouter를 사용할 때는 제공업체별 키를 직접 등록할 필요가 없습니다.

OpenRouter에서도 기존 제공업체 계약을 유지할 수 있나요?

BYOK를 사용하면 자체 제공업체 계정으로 요청을 처리할 수 있습니다. 제공업체 청구액, 정가를 기준으로 산정하는 OpenRouter BYOK 수수료, 공유 용량 폴백은 별개의 과금 항목으로 살펴봐야 합니다. 수수료 면제 한도가 있다고 제공업체의 추론까지 무료가 되는 것은 아닙니다.

사용량이 늘어나면 LiteLLM이 더 저렴한가요?

운영비와 필요한 Enterprise 라이선스 비용의 합이 절감할 OpenRouter 수수료보다 작을 때만 그렇습니다. 대안이 BYOK라면 BYOK 수수료를 기준으로 비교해야 합니다. BYOK 제공업체 청구액 전체에 크레딧 구매 수수료율을 적용하면 절감 효과를 과대평가하게 됩니다.

LiteLLM과 OpenRouter를 함께 사용할 수 있나요?

가능합니다. LiteLLM은 OpenRouter 제공업체 연동을 문서로 안내합니다. 두 라우팅 계층을 모두 유지하므로 관련 운영비, OpenRouter 수수료, 호스팅형 데이터 경로도 그대로 남습니다.

게이트웨이를 바꾸기 전에 뉴스레터를 통해 AI Business Workflow Audit Checklist를 받아 제공업체 키, 모델 지출, 폴백 담당자를 정리할 수 있습니다.

게시일
카테고리
Build
Claude Code Plan Mode 사용법: 계획 수정부터 권한 설정까지

Claude Code Plan Mode 사용법: 계획 수정부터 권한 설정까지

Claude Code Plan Mode로 여러 파일에 걸친 변경을 구현 전에 검토하는 방법을 정리합니다. /plan 명령과 설정, 계획 수정, auto 모드와 권한 우회 예외, 청구 금액을 유지하는 리팩토링 예제를 통해 승인 전 확인할 사항을 살펴봅니다.2026년 10월 12일Build
Claude Code 가격·기능 비교: Devin과 무엇이 다를까? (2026)

Claude Code 가격·기능 비교: Devin과 무엇이 다를까? (2026)

Claude Code 가격과 Devin 요금제를 비교하고, 개인 개발자와 5인 팀의 월 구독료를 계산합니다. 클라우드 작업 위임, 개발자의 제어권, GitHub·GitLab 연동, Premium 좌석 구성에 따른 비용 차이까지 살펴보고 팀에 맞는 AI 코딩 툴을 선택하세요.2026년 10월 12일Build
A2A 프로토콜 도입 가이드: MCP와의 차이부터 v1.0 호환성까지

A2A 프로토콜 도입 가이드: MCP와의 차이부터 v1.0 호환성까지

A2A 프로토콜과 MCP는 언제 각각 필요할까요? 에이전트 간 작업 위임과 툴 연결의 차이부터 Agent Card, 태스크, 아티팩트, v1.0 변경 사항까지 정리합니다. 주요 프레임워크의 지원 범위와 제약을 살펴보고, 실제 업무에 맞는 연동 방식과 도입 기준을 확인하세요.2026년 10월 12일Build
Cloudflare Workers부터 자체 호스팅까지: Deno Deploy 대안 비교 (2026)

Cloudflare Workers부터 자체 호스팅까지: Deno Deploy 대안 비교 (2026)

Deno Deploy 종료에 대비해 Cloudflare Workers, Netlify, Supabase, Vercel, Val Town과 자체 호스팅을 비교합니다. 요금과 무료 한도, Deno KV·cron·큐 이전 작업을 확인하고 앱에 맞는 마이그레이션 경로를 선택할 수 있습니다.2026년 10월 12일Build
AI 에이전트 만들기: Claude Agent SDK 설치부터 첫 실행까지

AI 에이전트 만들기: Claude Agent SDK 설치부터 첫 실행까지

Claude Agent SDK로 AI 에이전트를 만드는 방법을 알아봅니다. Python·TypeScript 설치부터 고객 지원 티켓 분류 예제, 툴과 권한 설정, 호스팅과 과금까지 살펴보고 Messages API·Claude Code 중 업무에 맞는 선택을 판단합니다.2026년 10월 12일Build
tmux 사용법: Claude Code 원격 작업과 worktree 관리

tmux 사용법: Claude Code 원격 작업과 worktree 관리

Claude Code 원격 작업을 이어 가는 tmux 사용법을 정리합니다. 공식 설정, Git worktree별 세션 구성, SSH 재접속과 에이전트 팀의 분할 패널을 살펴봅니다. 노트북을 닫기 전에 확인할 실행 조건과 작업 분리 방법, 재접속이 안 될 때 점검할 항목도 안내합니다.2026년 10월 12일Build
로컬 LLM, Ollama와 vLLM 중 무엇으로 운영할까?

로컬 LLM, Ollama와 vLLM 중 무엇으로 운영할까?

로컬 LLM을 Ollama와 vLLM 중 무엇으로 운영할지 고민된다면 동시 요청, GPU 메모리, 모델 크기부터 확인합니다. 설치와 성능, 양자화 형식, API 호환성을 비교하고, 월 운영 비용 계산과 이전 체크리스트로 내 서비스에 맞는 선택 기준을 정리합니다.2026년 10월 12일Build
바이브 코딩 툴 비교: Lovable과 Cursor, MVP에 맞는 선택은? (2026)

바이브 코딩 툴 비교: Lovable과 Cursor, MVP에 맞는 선택은? (2026)

바이브 코딩 툴 Lovable과 Cursor를 창업자와 PM 관점에서 비교합니다. 웹 MVP 제작 방식, 코드 소유권, 호스팅·데이터베이스 운영, 월간 요금과 협업 비용을 살펴보고, GitHub로 작업을 넘길 때 확인할 사항과 백엔드 이전을 별도로 계획해야 하는 이유를 정리합니다.2026년 10월 11일Build
뉴스레터

매주 일요일, 한 통의 편지.뜨거운 의견이 아닌, 돌아가는 시스템.

주간 발행. 스팸 없음. 언제든 해지 가능합니다.