LiteLLM vs OpenRouter: комиссии, контроль и выбор шлюза

LiteLLM vs OpenRouter — это прежде всего выбор того, кто обслуживает шлюз, с какого аккаунта оплачивается инференс и окупает ли экономия на комиссиях затраты на эксплуатацию. Выбирайте LiteLLM, если вам нужно самостоятельно управлять шлюзом и хранить ключи провайдеров в своей инфраструктуре. OpenRouter подойдет, если вы хотите получить готовую маршрутизацию и единый биллинг для моделей: покупка кредитов на тарифе Standard облагается комиссией 5.5%, а лицензия на открытое ПО LiteLLM стоит $0.

LiteLLM vs OpenRouter: какой шлюз выбрать?

OpenRouter выигрывает, когда нужен доступ к нескольким провайдерам без обслуживания еще одного сервиса. LiteLLM — когда шлюз, ключи доступа и правила обработки трафика должны находиться в подконтрольной вам инфраструктуре. Сам по себе большой объем запросов ничего не решает: вариант OpenRouter со своими ключами оплачивается иначе, чем инференс за купленные кредиты.

Шлюз находится между вашим продуктом и провайдерами моделей. В этом сравнении речь идет о LiteLLM Proxy Server, развернутом в собственной инфраструктуре, а не только о Python SDK, и об облачном сервисе OpenRouter — как с оплатой кредитами, так и со своими ключами провайдеров, то есть BYOK.

Тарифы и документация проверены 12 октября 2026 года, в том числе страница тарифов LiteLLM и страница тарифов OpenRouter. Расчет ниже основан на опубликованных комиссиях. Мы не тестировали сервисы в личном кабинете и не замеряли задержки.

Возможности в таблице сверены с архитектурой LiteLLM, схемой ключей OpenRouter и документацией по маршрутизации, логированию и кешированию, ссылки на которую приведены ниже. Число интеграций с провайдерами и число доступных для покупки моделей — разные показатели. Ни один из них не гарантирует нужное вам сочетание модели, региона и функций.

Для небольшого продукта без отдельного ответственного за платформу начните с OpenRouter, если облачный маршрут запроса не противоречит конкретному требованию. Если у продукта уже есть общая инфраструктура и нужны централизованно применяемые ограничения частоты по ключам, выбирайте LiteLLM. Если продукт растет и у вас есть индивидуальные договоры с провайдерами, сравнивайте OpenRouter BYOK с LiteLLM: комиссия за покупку кредитов не применяется к обоим вариантам одинаково.

Кто хранит ключи, выставляет счет и пересылает запрос?

С LiteLLM шлюз находится под вашим управлением; с OpenRouter его роль выполняет управляемый посредник. BYOK меняет ключ провайдера и плательщика, но не устраняет этого посредника.

LiteLLM: свой шлюз и свои аккаунты провайдеров

LiteLLM — шлюз с открытым исходным кодом, который вы разворачиваете между приложением и провайдерами моделей. Согласно документации, он проверяет виртуальный ключ, применяет бюджеты и ограничения частоты, выбирает маршрут, а затем преобразует запрос в формат API провайдера. Виртуальный ключ — это ключ доступа приложения, выданный шлюзом: приложению не нужны секретные ключи каждого внешнего провайдера. Архитектура обработки запросов LiteLLM.

Инференс оплачивается с настроенных вами аккаунтов провайдеров. Для самого шлюза нужен отдельный бюджет: вычислительные ресурсы, база данных для ключей и учета расходов, а также кеш и общая инфраструктура ограничения частоты, если вы их развернете. Документация по развертыванию в продакшене описывает эти компоненты, но не дает универсальной оценки стоимости хостинга.

По контролю над ключами и развертыванием выигрывает LiteLLM. Не выбирайте его, если некому отвечать за обновления, доступность базы данных и ошибки запросов. Бесплатное ПО не берет эти обязанности на себя.

OpenRouter: облачная маршрутизация с выбором плательщика

OpenRouter — облачный шлюз и каталог моделей. При оплате купленными кредитами приложение использует ключ OpenRouter, а расходы списываются с соответствующего баланса. При BYOK вы передаете ключи провайдеров; OpenRouter заявляет, что шифрует их и использует для запросов к указанному провайдеру. Инференс оплачивается с аккаунта провайдера, а применимые комиссии за маршрутизацию — кредитами OpenRouter. Документация OpenRouter BYOK.

Особого внимания заслуживает включенное по умолчанию резервное переключение на общие мощности. Если приоритетный ключ BYOK не позволяет выполнить запрос, OpenRouter может задействовать собственные мощности и потратить ваши кредиты OpenRouter. Самая строгая настройка на уровне провайдера — никогда не использовать общие мощности ни для одной модели этого провайдера. При этом запрос по-прежнему могут обслужить другие провайдеры, если вы отдельно не ограничите их список. Эта настройка определяет плательщика, а не только доступность сервиса.

По готовому доступу к каталогу, единой оплате и обслуживанию шлюза выигрывает OpenRouter. Выбирайте BYOK, если важно сохранить аккаунты провайдеров, но явно определите, разрешено ли при резервном переключении переносить расходы на баланс OpenRouter.

Тарифы OpenRouter: покупка кредитов и BYOK

OpenRouter берет комиссию за пополнение кредитного баланса, а при превышении установленного объема — еще и за маршрутизацию BYOK. Это разные платежи. В FAQ указаны комиссия 5.5%, минимум $0.80 за каждую покупку кредитов, и комиссия 5% при оплате криптовалютой. Стоимость самого инференса передается от провайдера без наценки. FAQ OpenRouter о комиссиях.

В опубликованной таблице тарифов для Standard указано 5.5%, для Business — 8%. В обоих случаях инференс на $25,000 в месяц по прейскуранту не облагается комиссией BYOK, а сверх этого объема комиссия составляет 5%. Условия Enterprise определяются индивидуально. Ниже рассчитан счет для Standard; его процент нельзя переносить на Business. Актуальная таблица тарифов.

База для расчета комиссии BYOK — обычная стоимость той же модели у того же провайдера в OpenRouter. Она не обязательно совпадает с вашим счетом от провайдера с учетом скидки. Объем без комиссии измеряется стоимостью инференса, а не количеством запросов; сама комиссия списывается кредитами OpenRouter. Как рассчитывается комиссия BYOK.

Подробнее о платежах за пополнение баланса и использование моделей — в нашем разборе тарифов OpenRouter.

LiteLLM: что входит в Open Source и Enterprise

LiteLLM Open Source не требует платы за лицензию, в том числе в продакшене. На странице тарифов перечислены виртуальные ключи, учет расходов, бюджеты, ограничения частоты, резервная маршрутизация, логирование запросов и ответов, а также метрики Prometheus. Нельзя считать, что все эти возможности доступны только в Enterprise. Тарифы LiteLLM.

Enterprise добавляет средства управления идентификацией и организацией: SSO/SCIM, аутентификацию OIDC/JWT, журналы аудита, менеджеры секретов и ротацию ключей, а также поддержку и варианты развертывания. Стоимость рассчитывается на год и зависит от пропускной способности шлюза по запросам, архитектуры и требований к поддержке, а не от расходов на токены. Публичной цены в долларах, которую можно было бы корректно включить в месячное сравнение, нет: используйте свое коммерческое предложение.

Сколько платить в месяц при небольшой и растущей нагрузке

В расчетном примере с месячным инференсом на $50,000 по прейскуранту оплата кредитами Standard обходится в $52,750, а только через Standard BYOK — в $51,318.75 при приведенных ниже условиях пополнения баланса. LiteLLM Open Source стоит $50,000 плюс ваши расходы на эксплуатацию. Это расчеты, а не пакетные предложения и не результаты замеров реальной нагрузки.

Возьмем одинаковые модели, провайдеров и соотношение токенов и обозначим месячную стоимость инференса как B. Для небольшой нагрузки это $100, для растущей — $50,000, то есть вдвое больше опубликованного объема BYOK без комиссии. Предположим, что счета провайдеров соответствуют прейскуранту, экономии от кеша и индивидуальных скидок нет, резервное переключение на общие мощности не используется, а баланс Standard пополняется один раз, не криптовалютой, и все купленные кредиты расходуются. Налоги и необязательные дополнения в расчет не входят.

Обозначим через H ваши фактические месячные расходы на хостинг и обслуживание LiteLLM. Не подставляйте вместо них придуманную стоимость сервера.

Расчет опирается на комиссию за покупку кредитов и текущий объем BYOK без комиссии. Мы предполагаем, что в месяце с использованием только BYOK покупать кредиты не нужно, если комиссия за маршрутизацию не начисляется.

При растущей нагрузке с оплатой кредитами нужно купить кредиты на $50,000 и добавить $50,000 × 5.5% = $2,750. Всего к оплате: $52,750.

При той же нагрузке через BYOK счет провайдера составит $50,000. Комиссия за маршрутизацию начисляется на инференс сверх объема без комиссии: ($50,000 − $25,000) × 5% = $1,250. Покупка кредитов Standard для оплаты этой комиссии добавит $1,250 × 5.5% = $68.75. Итого: $50,000 + $1,250 + $68.75 = $51,318.75. Комиссия за пополнение возникает из-за оплаты комиссии BYOK купленными кредитами; это не повторная комиссия со счета провайдера.

Порог окупаемости зависит от варианта оплаты OpenRouter

По сравнению с кредитами Standard LiteLLM экономит деньги, когда H меньше комиссии за покупку кредитов, от которой вы отказываетесь. Когда процентная комиссия превышает минимальную, точка безубыточности: B = H ÷ 0.055. При небольшой нагрузке на покрытие H остается лишь $5.50, при растущей — $2,750.

По сравнению с использованием только Standard BYOK экономии на комиссии за маршрутизацию нет, пока не превышен объем без комиссии. Выше этого объема, если процентная комиссия за пополнение превышает минимальную, точка безубыточности: B = $25,000 + H ÷ 0.05275. При растущей нагрузке эксплуатация LiteLLM должна стоить меньше $1,318.75 в месяц, чтобы он выигрывал только по этим затратам. С лицензией Enterprise вместо H нужно считать H плюс месячную долю стоимости из вашего коммерческого предложения.

Другие скидки провайдеров, цены моделей, размеры покупок кредитов и использование резервных маршрутов изменят счет. По одному количеству запросов порог окупаемости не определить: стоимость токенов в запросах различается.

Резервные маршруты, бюджеты и кеш: кто лучше решает каждую задачу?

LiteLLM выигрывает, когда нужны механизмы контроля внутри собственного шлюза; OpenRouter — когда нужна готовая маршрутизация без обслуживания шлюза. Решают настройки и область их действия, а не галочка напротив пункта «резервная маршрутизация».

Маршрутизация и резервирование: OpenRouter для готового переключения при сбоях

Маршрутизатор провайдеров OpenRouter поддерживает порядок приоритетов, список разрешенных провайдеров и настройку allow_fallbacks. Отдельный массив models позволяет пробовать альтернативные модели, когда основная не может выполнить запрос. Различие существенное: сменить провайдера той же модели и заменить саму модель — разные решения для продукта. Маршрутизация по провайдерам, резервные модели.

В документации LiteLLM описаны повторные попытки внутри настроенной группы моделей и переключение на другую группу. За развернутые экземпляры и правила отвечаете вы. Архитектура маршрутизации LiteLLM.

Победитель — OpenRouter, если нужно готовое переключение при сбоях. Выбирайте LiteLLM, когда разрешенные резервные назначения — это уже управляемые вами развертывания. Ни список резервных маршрутов, ни это сравнение не доказывают преимущества по задержке.

Бюджеты и лимиты по ключам: LiteLLM для управления трафиком

LiteLLM позволяет задавать для виртуальных ключей бюджеты, лимиты запросов в минуту (RPM) и токенов в минуту (TPM). Лимит расходов ограничивает накопленную стоимость, а ограничение частоты — скорость потребления ресурсов приложением. Клиент может укладываться в месячный бюджет и при этом создавать нежелательные всплески нагрузки. Бюджеты и ограничения частоты LiteLLM.

Конкретное ограничение — зависимость от базы данных. В документации LiteLLM прямо указано: при развертывании без базы данных бюджеты не ограничивают использование. Глобальная проверка бюджета пропускает запросы, а бюджеты ключей, пользователей и команд недоступны. Одного значения бюджета в конфигурационном файле недостаточно, если отсутствует необходимый для его работы сервис.

OpenRouter документирует лимиты расходов в долларах по ключам, периоды сброса и настройку include_byok_in_limit. В схеме создания ключа нет полей RPM/TPM, которые пользователь мог бы настроить для отдельного ключа, а страница лимитов описывает ограничения ресурсов платформы и провайдеров. Лимит расходов по ключу нельзя приравнивать к ограничению пропускной способности конкретного приложения. Настройки ключей, лимиты частоты и расходов.

Победитель — LiteLLM, если обязательны правила расходов и пропускной способности для каждого ключа. В OpenRouter есть контроль расходов, но нужно сопоставить описанную в документации область действия лимита с аккаунтом, который оплачивает запросы.

Логирование и кеширование: LiteLLM для контроля над хранением

LiteLLM поддерживает выбор места хранения логов и удаление содержимого сообщений из них с сохранением метаданных о расходах. Для кеша ответов доступны локальное хранилище, Redis и другие описанные в документации бэкенды; при точном совпадении запросов кеш позволяет повторно использовать готовый ответ. Настройки логирования, бэкенды кеша.

В OpenRouter приватное логирование входных и выходных данных включается по желанию. В документации также описано кеширование ответов на шлюзе: на идентичный запрос может вернуться сохраненный ответ без обращения к провайдеру. Это отдельный механизм от кеширования промптов у провайдера, при котором повторно используются результаты обработки промпта на стороне провайдера. Кеш ответов по умолчанию выключен; после включения он действует в пределах API-ключа. Приватное логирование, кеширование ответов, кеширование промптов.

Победитель — LiteLLM, если важно выбирать, где хранятся логи и кеши шлюза. OpenRouter проще как готовый облачный сервис. До его внедрения стоит учесть конкретное ограничение кеша: запрет хранения данных на уровне аккаунта отключает кеширование ответов, тогда как параметр provider.zdr в отдельном запросе не влияет на возможность кеширования. Требование выбирать провайдера, который не хранит данные, само по себе не отключает хранение в кеше ответов шлюза.

Собственный шлюз не гарантирует, что данные останутся внутри

LiteLLM убирает облачного поставщика шлюза из маршрута, но не превращает удаленный инференс в локальный. На странице безопасности сказано: «При самостоятельном развертывании никакие данные или телеметрия не сохраняются на серверах LiteLLM». При этом архитектура по-прежнему предусматривает пересылку запросов выбранным провайдерам моделей. Безопасность LiteLLM, маршрут запроса.

Вы получаете контроль над прокси, его логами и настроенными адресатами запросов. Политика провайдера модели от этого не отменяется, как и политика внешнего сервиса логирования, если вы его подключите.

OpenRouter формулирует свою позицию так: «Любое хранение промптов в OpenRouter всегда требует явного согласия». Сервис разделяет приватные отладочные логи и разрешение использовать входные и выходные данные для улучшения продукта; оба переключателя по умолчанию выключены. Он сохраняет метаданные запросов и описывает выборку небольшого числа промптов для категоризации с помощью модели с политикой нулевого хранения данных. По заявлению OpenRouter, без согласия на использование входных и выходных данных категории хранятся анонимно и не привязываются к аккаунту или идентификатору пользователя. Сбор данных OpenRouter.

Провайдер модели — отдельный участник обработки данных. OpenRouter документирует раздельные политики хранения и обучения и позволяет фильтровать конечные точки по условию нулевого хранения данных — ZDR. Не обучаться на данных и не хранить данные — разные обязательства. В документации ZDR также есть предупреждение: у включенных плагинов и инструментов могут быть собственные политики хранения. Политики провайдеров, настройки ZDR.

По контролю над обработкой данных на шлюзе выигрывает LiteLLM. OpenRouter может соответствовать вашим требованиям к облачным сервисам, но шлюз, провайдера, кеш и все включенные инструменты нужно оценивать отдельно. Само по себе «BYOK» не отвечает ни на один из этих вопросов о хранении данных.

Как перейти с OpenRouter на LiteLLM или обратно

Основные затраты на миграцию — перенос правил и учета вокруг API, а не простая смена его адреса. Совместимый формат запросов не переносит договоры с провайдерами, бюджеты, накопленные логи и правила резервной маршрутизации.

1. 1

   Определите плательщика и ключ для каждого маршрута

   При переходе на LiteLLM определите, какие ключи и аккаунты провайдеров заменят доступ за кредиты. При переходе на OpenRouter выберите покупку кредитов или BYOK и укажите, разрешено ли при резервных запросах использовать общие мощности с оплатой через OpenRouter.

2. 2

   Зафиксируйте модели и их поведение

   Запишите идентификаторы или псевдонимы моделей, которые использует продукт, разрешенных провайдеров, поддерживаемые параметры запросов и резервные назначения. Сохраните нужное приложению поведение моделей: записи в каталоге нельзя считать взаимозаменяемыми.

3. 3

   Заново настройте бюджеты, частоту и хранение данных

   Перенесите правила расходов, период сброса и необходимые ограничения пропускной способности для каждого ключа. Для LiteLLM предусмотрите базу данных, без которой бюджеты не работают. Для OpenRouter решите, какие бюджеты учитывают BYOK. Задокументируйте хранение логов и кеша отдельно от хранения данных у провайдера.

4. 4

   Зафиксируйте момент перехода и подготовьте откат

   Сохраните старые записи об использовании согласно своей политике, отметьте момент переключения и оставьте доступной прежнюю конфигурацию маршрутизации. Назначьте ответственного за сверку счетов провайдеров и кредитов шлюза после переезда.

Не переводите небольшой работающий продукт с OpenRouter на LiteLLM только ради экономии комиссии, которая меньше стоимости обслуживания еще одного сервиса. Не переносите работающий LiteLLM на облачный маршрутизатор, если контроль над шлюзом — жесткое требование. И не переходите только из-за более крупного каталога, пока не проверите нужные продукту модели и функции.

Оба сервиса можно использовать вместе: в документации LiteLLM OpenRouter описан как провайдер. Так можно сохранить локальную точку управления и пользоваться каталогом OpenRouter, но маршрут через OpenRouter и соответствующие комиссии тоже сохранятся. Это не способ превратить облачный инференс в полностью локальную систему.

Альтернативы OpenRouter: Vercel и Cloudflare

Среди облачных сервисов в первую очередь стоит сравнить комиссии с Vercel AI Gateway; Cloudflare AI Gateway имеет смысл рассматривать, если его средства управления подходят вашей инфраструктуре. В обоих случаях все равно нужно понимать, какой ключ определяет плательщика.

Vercel AI Gateway заявляет отсутствие наценки на токены и платформенной комиссии, а также отсутствие комиссии шлюза за BYOK. Для BYOK нужны купленные кредиты; неудавшийся BYOK-запрос может быть повторен с системными ключами с оплатой из баланса шлюза. Бесплатный тариф включает $5 в месяц на соответствующие модели, но покупка кредитов прекращает это ежемесячное бесплатное начисление. Комиссии за обработку платежей и плата за необязательные дополнения могут сохраняться. Официальные тарифы Vercel.

Cloudflare AI Gateway бесплатно предоставляет базовую аналитику, кеширование и ограничение частоты. Unified Billing добавляет 5% к покупке кредитов: в примере сервиса за кредиты на $100 нужно заплатить $105, а стоимость инференса передается от провайдера без наценки. Для новых клиентов, создавших первый шлюз 24 сентября 2026 года или позже, действуют тарифы Workers Logs. Поэтому бесплатные возможности шлюза не означают безлимитное бесплатное логирование. Официальные тарифы Cloudflare.

Для этих новых аккаунтов логирования Workers Paid включает 20 миллионов записей логов в месяц, затем — $0.60 за каждый дополнительный миллион; в тарифе Free указано 200,000 записей логов в день. Тарифы Workers Logs. В нашей статье о выборе плательщика в Cloudflare разобраны правила работы с ключами, а в сравнении альтернатив OpenRouter — более широкий список вариантов.

Частые вопросы перед выбором шлюза

OpenRouter или LiteLLM: у кого будут храниться ключи провайдеров?

При самостоятельном развертывании LiteLLM ключи провайдеров на шлюзе контролируете вы. При OpenRouter BYOK вы передаете ключи облачному сервису, который заявляет об их шифровании. При оплате OpenRouter кредитами вам не нужно передавать ключ каждого провайдера.

Можно ли сохранить свои договоры с провайдерами при использовании OpenRouter?

BYOK позволяет выполнять запросы через ваши аккаунты провайдеров. Счет провайдера, комиссия OpenRouter BYOK на основе прейскуранта и возможное резервное переключение на общие мощности — отдельные составляющие расходов. Объем без комиссии не делает инференс у провайдера бесплатным.

Становится ли LiteLLM дешевле по мере роста нагрузки?

Только если его эксплуатация вместе с возможной лицензией Enterprise стоит меньше комиссий OpenRouter, от которых вы отказываетесь. Если альтернатива — BYOK, сравнивайте с комиссией BYOK. Применение процента за покупку кредитов ко всему счету провайдера при BYOK завышает экономию.

Можно ли использовать LiteLLM вместе с OpenRouter?

Да. В документации LiteLLM есть интеграция с OpenRouter как с провайдером. Оба слоя маршрутизации сохраняются, а вместе с ними — соответствующие эксплуатационные расходы, комиссии OpenRouter и передача данных через облачный сервис.

Получите AI Business Workflow Audit Checklist через рассылку, чтобы до смены шлюза зафиксировать ключи провайдеров, расходы на модели и ответственного за резервную маршрутизацию.