Аренда GPU в облаке: 7 провайдеров для ИИ в 2026 году
Сравниваем Runpod, Lambda, CoreWeave, Vast.ai, Modal, Together AI и Google Cloud: цены, видеопамять, дообучение и инференс. Как выбрать облачный GPU под задачу.
Опубликовано

Аренда GPU в облаке начинается с выбора под задачу: Runpod — для самостоятельного дообучения, Modal — для бессерверного инференса со своим кодом, Together AI — для доступа к моделям через управляемый API, а Vast.ai — для задач, которые можно возобновить на арендованном через маркетплейс сервере. В подборку из 7 провайдеров также входят Lambda с виртуальными машинами на GPU, CoreWeave для заранее спланированных кластерных нагрузок и Google Cloud, если приложение уже зависит от его инфраструктуры. Сначала оцените, сколько памяти нужно модели и за какое время работы придётся платить, а затем смотрите на минимальную ставку в рекламе.
Цены и документация проверены 30 октября 2026 года. Ниже указаны цены в USD, опубликованные в тот день на страницах тарифов самих провайдеров. Сравнение основано на документации: практических тестов производительности мы не проводили. Доступность ресурсов, налоги и итоговая конфигурация развёртывания могут повлиять на сумму в счёте.
Аренда GPU: какой провайдер подходит для вашей задачи
Runpod стоит рассмотреть первым, если вы хотите самостоятельно дообучать модель; Modal и Together AI — если нужно обслуживать запросы к ней без постоянной GPU-машины. Выбор меняется, когда важны конкретный регион, непрерывная доступность мощностей или пакетная обработка с удобным восстановлением после сбоев.
Сравнение цен на облачные GPU: сначала единица тарификации, затем сумма
Для каждой начальной ставки указаны продукт и оборудование. Это пороги входа в разные сервисы, а не предложения с одинаковой производительностью. Цена подключаемого GPU не включает виртуальную машину, к которой он подключён; стоимость GPU-секунды в бессерверном сервисе не учитывает ресурсы с отдельной тарификацией; ставка выделенного инференса не равна цене токенов в API.
Предложение на маркетплейсе может исчезнуть, а у самой дешёвой карты может не хватить памяти для вашей модели. Столбец с пробным доступом описывает проверенные публичные условия, а не все программы кредитов, о которых можно договориться отдельно. Together AI требует предоплаты; ограничение Google на использование GPU прямо прописано в условиях Free Trial.
Бессерверный инференс: свой код или API модели
Прежде чем выбирать GPU, решите, нужно ли вам управлять средой выполнения модели. Инференс — это получение ответа от уже обученной модели. Управляемый API позволяет запросить такой ответ, а бессерверные вычисления со своим кодом — самостоятельно определить, как он будет получен. Эта разница важнее слова «serverless» в описании обоих продуктов.
1. Modal: инференс на Python при неравномерной нагрузке
Modal — бессерверная платформа для контейнерных приложений, которые развёртываются через Python. Она подходит разработчикам, у которых код обслуживания модели — часть самого продукта. Например, сервису обработки документов могут понадобиться собственная предобработка, вызов модели и постобработка в одном развёртывании. Modal масштабирует такое приложение под нагрузку, но оплачиваемое время включает инициализацию и простой готовых контейнеров, а не только полезные вычисления. Выбирайте Modal, если хотите контролировать среду выполнения без постоянно работающей виртуальной машины.
Кому подходит: Командам на Python, которые развёртывают собственный инференс или очереди GPU-задач с переменной нагрузкой.
Главная особенность: Развёртывание на уровне приложения и автоматическое масштабирование с раздельной тарификацией вычислительных ресурсов.
Цена: Вычисления на T4 от $0.000164/секунду, плюс CPU и память; проверено 30 октября 2026 года на странице тарифов Modal.
Бесплатный пробный доступ: Starter включает $30/месяц в виде кредитов на вычисления; оплата токенов в Shared Endpoints в этот лимит не входит.
Главное практическое ограничение — задержка после периода бездействия. Холодный старт включает подготовку нового контейнера к обработке запроса. Запуск контейнера, импорт библиотек и загрузка весов модели — отдельные этапы. Быстрый запуск контейнера ещё не означает, что модель сразу готова отвечать.
Modal позволяет поддерживать контейнеры в прогретом состоянии и держать запас мощностей. Это ускоряет ответ, но ресурсы при этом остаются выделенными. Для клиентского ассистента проверяйте и первый запрос после простоя, и запросы во время активной сессии. Для ночной очереди извлечения данных ожидание инициализации может быть приемлемым. Этот компромисс разобран в руководстве Modal по холодному старту.
У Starter есть конкретные ограничения масштабирования: 3 пользователя в рабочем пространстве и 10 одновременно работающих GPU. Этого достаточно для полезного пилота, но всплеск числа независимых обработчиков может упереться в лимит параллельной работы ещё до того, как месячные расходы станут заметными. Для постоянных томов и исходящего сетевого трафика предусмотрены включённые объёмы и отдельная оплата сверх них, поэтому учитывайте весь путь данных.
Географию тоже нужно настраивать осознанно. В Modal регион выполнения контейнера и регион маршрутизации запросов — разные параметры. Закрепление за регионом также повышает цену через тарифный коэффициент. Близость модели к базе данных полезна лишь тогда, когда маршрут запросов тоже соответствует требованиям к задержке и месту обработки данных. Оба параметра описаны в документации по выбору региона.
- Собственная логика модели и предобработка укладываются в развёртывание на Python.
- Вычислительные ресурсы можно сокращать, когда спрос исчезает.
- Настройки прогретых контейнеров позволяют выбирать баланс между задержкой и стоимостью простоя.
- Запуск и ожидание в прогретом состоянии могут оставаться платными.
- Лимиты Starter на пользователей и одновременную работу могут ограничить растущий пилот.
- Выбор региона влияет на цену, а выполнение Functions по умолчанию может прерываться платформой.
2. Together AI: когда нужен готовый эндпоинт модели
Together AI — управляемая платформа инференса и обучения для команд, которым нужно выпустить функцию на базе модели до того, как браться за GPU-инфраструктуру. Если нужная модель есть в каталоге, логично начать с бессерверного API; выделенный инференс добавляет контроль над оборудованием для обслуживания запросов. Ограничение — свобода настройки: API поддерживаемой модели и произвольная собственная среда обучения решают разные задачи. Выбирайте Together AI, когда вам нужен именно эндпоинт модели, а выделенные мощности покупайте после того, как их оправдают нагрузка или требования к контролю.
Кому подходит: Командам, которые обслуживают запросы к поддерживаемым моделям или используют управляемое дообучение и выделенный инференс.
Главная особенность: Возможность перейти от API с оплатой за токены к выделенному развёртыванию модели.
Цена: Выделенный инференс на NVIDIA HGX H100 от $5.49/GPU-час; тарифы бессерверного API зависят от модели. Проверено 30 октября 2026 года на странице тарифов Together AI.
Бесплатный пробный доступ: Нет; требуется заранее купить кредиты.
Не смешивайте схемы оплаты. Бессерверный инференс языковых моделей тарифицируется по входным и выходным токенам — фрагментам текста, которые обрабатывает модель. Выделенный инференс оплачивается поминутно за каждую готовую реплику, то есть работающую копию сервиса модели. Согласно документации, подготовка ресурсов и холодный старт не входят в оплату выделенных вычислений, но готовая реплика продолжает стоить денег даже при редких запросах. Масштабирование до нуля останавливает эти начисления. Границы описаны в правилах тарификации выделенного инференса.
В приложении поддержки с нерегулярными диалогами бессерверный API позволяет не платить за простаивающие мощности модели. Для загруженного приложения с понятным характером трафика стоит сравнить выделенные реплики на одинаковых промптах и длинах ответов. Более низкая ставка за GPU сама по себе не повод переходить: чтобы перевести её в стоимость готового ответа, нужно измерить пропускную способность.
Для управляемого дообучения нужен отдельный расчёт. Together предлагает адаптерное дообучение LoRA и полное дообучение с оплатой за токены, учитывающей проходы обучения и оценку модели. Эпоха — это один проход по обучающему набору данных. Повторные проходы увеличивают число обработанных токенов; размер загруженного файла сам по себе не определяет счёт.
GPU-кластеры — ещё один отдельный продукт. Здесь есть мощности по требованию и с резервированием, а постоянное хранилище оплачивается отдельно. Резервирование кластера требует предоплаты без возврата; удаление кластера не делает все оставшиеся тома бесплатными. Документация кластеров указывает, что входящий и исходящий трафик не тарифицируется. Не следует автоматически переносить эти правила на все API-продукты. Подробности — в документации по оплате кластеров.
Для инференса проверяйте модель и регион вместе. Некоторые бессерверные модели поддерживают выполнение запросов с привязкой к США, а другие региональные требования могут потребовать выделенных эндпоинтов. Время ответа общего API меняется с нагрузкой, и приложению по-прежнему нужна обработка повторных попыток. Эти ограничения прямо указаны в документации бессерверного сервиса.
- Управляемый API избавляет от подготовки GPU при первом развёртывании.
- Выделенные реплики дают понятный путь к обслуживанию модели на выбранном оборудовании.
- Управляемое дообучение может сократить инфраструктурную работу по адаптации модели.
- API, выделенный инференс и кластеры тарифицируются по разным правилам.
- При общем обслуживании возможны лимиты запросов и нестабильное время ответа.
- Резервирование кластера создаёт обязательства ещё до проверки пользы приложения.
Pods и виртуальные машины по требованию для дообучения
Пока меняются скрипт обучения, зависимости или сама модель, арендуйте среду, которую можете контролировать. Дообучение адаптирует существующую модель на ваших данных. Pod или виртуальная машина позволяют разбирать сбои и повторять запуск; остановка вычислений и сохранение результатов при этом остаются вашей ответственностью.
3. Runpod: с чего начать самостоятельное дообучение
Runpod предлагает выделенные GPU Pods, а также Serverless и кластерные продукты. Это практичный первый кандидат для небольшой команды, которая выстраивает собственный процесс работы с моделью. Можно выбрать GPU и шаблон контейнера, провести дообучение, а затем отдельно оценить развёртывание инференса в Serverless. Ограничения вполне конкретны: надёжность Community Cloud зависит от хостера, постоянное хранилище живёт по своим правилам, а остановка Pod не гарантирует, что при возобновлении тот же GPU будет доступен. Runpod заслуживает места в подборке благодаря контролю и гибкости развёртывания, а не обещанию самой низкой цены для любой задачи.
Кому подходит: Разработчикам, которым нужен контейнер с GPU для экспериментов, адаптерного дообучения и разработки собственного инференса.
Главная особенность: Отдельные продукты Pod и Serverless для разработки и обслуживания запросов.
Цена: На странице указаны Pods с RTX A5000 и 24 ГБ видеопамяти от $0.27/час; проверено 30 октября 2026 года на странице тарифов Runpod.
Бесплатный пробный доступ: На проверенной странице тарифов бесплатный пробный доступ к GPU не указан.
Выбирая GPU для обучения моделей, начните с памяти, а не с самого впечатляющего названия чипа. У Runpod есть карты на 24 ГБ, варианты на 48 ГБ, включая A40 и RTX A6000, а также A100 и H100 на 80 ГБ. Небольшая команда может оценить несколько классов памяти, не проектируя кластер с самого начала. Это не рейтинг производительности: движок инференса, точность модели и настройки пакетной обработки могут изменить выбор наиболее выгодной карты.
Между Secure Cloud и Community Cloud тоже нужно выбирать осознанно. Runpod описывает Secure Cloud как инфраструктуру дата-центров, а Community Cloud — как одноранговую сеть поставщиков с переменной надёжностью. Эксперимент, который легко повторить, допускает иной риск сбоев, чем сервис с клиентскими запросами. Выбирайте пул с учётом требований задачи к восстановлению и поддержке. Разница описана в руководстве Runpod по выбору Pod.
При первом развёртывании чаще всего неожиданности приносит хранилище. Диск контейнера временный. Диск тома сохраняется после остановки Pod, но удаляется вместе с ним. Сетевой том существует независимо, однако доступен для Pods в Secure Cloud и привязывает выбор оборудования к своему расположению. Если хранить контрольные точки только на временном диске, смысл их сохранения теряется. Ограничения размещения объяснены в документации сетевых томов.
В Pods вычисления оплачиваются посекундно, а входящий и исходящий трафик по проверенным правилам не тарифицируется. После остановки плата за хранение может продолжать начисляться. У Serverless другой цикл оплаты: обработчики тарифицируются во время инициализации, выполнения и ожидания без работы — до их остановки. Обработчики Flex могут масштабироваться до нуля; Active остаются запущенными. Здесь вы выбираете, как долго оплачивать выделенные ресурсы, а не просто название одного и того же почасового тарифа. См. оплату Pods и оплату Serverless.
Полный расчёт ставок и хранения разобран в нашем руководстве по ценам Runpod. Используйте его для оценки повторных запусков и круглосуточного обслуживания модели.
Опишите задачу до развёртывания
Зафиксируйте точную контрольную точку модели, режим инференса или дообучения, точность, максимальную длину входа и ожидаемое число одновременных запросов. Выбирайте объём видеопамяти с запасом для среды выполнения, а не только для файла модели.
Сначала выберите место хранения
Если нужен сетевой том, создайте или выберите его в нужном дата-центре до выбора GPU. Убедитесь, что подходящие GPU доступны именно там. Храните отдельную копию незаменимых обучающих данных и контрольных точек.
Разверните совместимый шаблон
В Pods выберите GPU и шаблон контейнера, задайте количество GPU и запустите развёртывание по требованию. Сверьте фильтр совместимости CUDA на хосте с требованиями шаблона. CUDA — программная платформа, от которой зависят многие приложения для GPU NVIDIA.
Проведите короткий пробный запуск и проверьте завершение
Повторите те же этапы загрузки, обучения и записи контрольных точек, которые нужны основной задаче. Зафиксируйте пиковое потребление видеопамяти и время работы. Перед остановкой или удалением вычислительных ресурсов убедитесь, что контрольная точка записана в постоянное хранилище, затем проверьте оставшиеся начисления за хранение.
Эти настройки развёртывания описаны в руководстве по управлению Pods. Используйте пробный запуск и для проверки восстановления: следующий запуск должен продолжать работу без привязки к конкретной прежней машине.
- Pods по требованию удобны для итеративного обучения и отладки зависимостей.
- Несколько классов видеопамяти позволяют подбирать оборудование постепенно.
- Serverless даёт отдельный путь для развёртывания готового обработчика инференса.
- В Pods нет дополнительной тарификации входящего и исходящего трафика.
- Переменная надёжность Community Cloud требует продуманного плана восстановления.
- Сетевые тома ограничивают выбор расположения и недоступны для Pods в Community Cloud.
- После остановки вычислений остаётся плата за хранение, а нужные для возобновления мощности могут освободиться для других клиентов.
4. Lambda: привычная виртуальная машина с GPU
Lambda — GPU-облако с виртуальными машинами на Linux и резервируемыми кластерами. Оно подходит командам, которым нужна обычная машина для длительного обучения. Среды включают инструменты NVIDIA, а каталог охватывает как инстансы с одним GPU, так и более крупные конфигурации. Условие покупки здесь существенно: ставка за один и тот же GPU может меняться в зависимости от их количества в аренде. Выбирайте Lambda ради контролируемой среды обучения и проверяйте выбранное количество GPU, прежде чем принимать ставку за итоговую сумму счёта.
Кому подходит: Командам, которые обучают и дообучают модели и предпочитают SSH-доступ к виртуальной машине с GPU.
Главная особенность: Инстансы с одним GPU и отдельная возможность перейти к резервируемому кластеру.
Цена: Инстансы с одним GPU — от $0.69/GPU-час за Quadro RTX 6000 с 24 ГБ видеопамяти; проверено 30 октября 2026 года на странице тарифов Lambda.
Бесплатный пробный доступ: На проверенной странице тарифов бесплатный пробный доступ к GPU не указан.
В каталоге есть A6000 с 48 ГБ, а также H100 в вариантах PCIe и SXM с 80 ГБ. Полное название важно. «RTX 6000», «A6000» и более новые карты с похожими названиями не взаимозаменяемы. Запишите точное название GPU и объём памяти в параметры развёртывания, чтобы при следующем запуске незаметно не перейти на другое устройство.
Цена вычислений Lambda по требованию указана за час, но начисляется поминутно — с момента успешного запуска до удаления инстанса. Запущенная машина без полезной работы тоже оплачивается. Для обучения настройте завершение с учётом правил удаления ресурсов у провайдера: окончание процесса Python само по себе не прекращает аренду. Тарификация описана в документации Lambda.
Постоянные файловые системы требуют отдельного планирования: их нужно подключать при создании инстанса, и они должны находиться в том же регионе. Пока файловая система существует, плата начисляется даже после отключения; согласно документации по оплате, её входящий и исходящий трафик бесплатен. Прежде чем загружать большой датасет, проверьте, что GPU и файловая система доступны вместе в нужном месте. Региональные правила и условия хранения перечислены в документации инстансов Lambda.
Резервируемый кластер — покупка другого масштаба. Публичная таблица 1-Click Cluster начинается с 16 GPU и срока в две недели. Это может подойти для интенсивного этапа обучения, но плохо подходит для старта, если вы ещё проверяете, решит ли задачу адаптация модели на одной карте. Начните с минимального работоспособного эксперимента и расширяйтесь, когда он покажет необходимую производительность.
- Виртуальная машина на Linux — привычная среда для существующих скриптов обучения.
- Конфигурации с одним GPU позволяют обойтись без немедленного резервирования кластера.
- Региональные постоянные файловые системы отделяют рабочие данные от срока жизни вычислительных ресурсов.
- Доступность GPU зависит от региона и конфигурации.
- Запущенные простаивающие машины и сохранённые файловые системы продолжают тарифицироваться.
- Минимальные размеры и сроки аренды кластеров превышают потребности многих небольших экспериментов.
GPU на маркетплейсах и прерываемые инстансы
Соглашайтесь на риск прерывания только после проверки восстановления задачи. Маркетплейс объединяет предложения разных хостеров. Прерываемый инстанс может быть приостановлен или изъят провайдером. Эти понятия пересекаются, но аренда по требованию через маркетплейс не обязательно означает прерываемую аренду.
5. Vast.ai: возобновляемые задачи без жёсткой привязки к месту
Vast.ai — маркетплейс GPU, где цены назначают хостеры. Он полезен разработчикам, готовым внимательно изучать предложения и работать с меняющимся набором доступных машин. Пакетный расчёт эмбеддингов или повторяемый эксперимент с дообучением хорошо подходят для такой аренды, если входные данные и контрольные точки сохраняются после удаления инстанса. Ограничение — условия конкретного хостера: вычисления, хранение и передача данных в обоих направлениях могут оплачиваться отдельно. Выбирайте Vast.ai, если можете адаптировать решение к конкретному предложению и не требуете одинакового поведения от всех арендованных машин.
Кому подходит: Экспериментам с ограниченным бюджетом, пакетным задачам и обучению с возобновлением из контрольных точек.
Главная особенность: Выбор конкретного хостера для аренды по требованию, с резервированием или с возможностью прерывания.
Цена: Ставку за GPU задаёт хостер, оплата посекундная; хранение и передача данных оплачиваются дополнительно. Минимальное предложение для нужной конфигурации смотрите на странице текущих цен Vast.ai, проверенной 30 октября 2026 года.
Бесплатный пробный доступ: На проверенной странице тарифов бесплатный пробный доступ к GPU не указан.
Самое дешёвое предложение полезно, только если оборудование подходит для задачи. В текущем каталоге Vast.ai есть RTX 3090 и RTX 4090 с 24 ГБ, L40S с 48 ГБ и H100 SXM с 80 ГБ. Сначала отфильтруйте предложения по памяти и нужному ПО. Затем сравните CPU, оперативную память, хранилище, условия передачи данных и расположение конкретного хоста.
Во время работы вычисления тарифицируются посекундно. Хранение оплачивается всё время существования инстанса, в том числе после остановки. Стоимость загрузки и выгрузки данных зависит от хостера. Поэтому дешёвый GPU, на который приходится многократно загружать большую модель или датасет, может оказаться невыгодным для короткой задачи. Сравнивайте весь путь данных, а не только видеокарту. Составляющие цены описаны в документации Vast.ai по тарификации.
Для корректного возобновления прерываемого обучения одного сохранённого файла модели может не хватить. Сохраняйте всё состояние, которое требуется фреймворку обучения, и заранее проверяйте перезапуск. В очереди пакетных задач используйте стабильные идентификаторы, чтобы повторная попытка не создавала дубликаты результатов, видимых клиенту. Это критерии готовности к работе на прерываемых мощностях, а не обещание, что провайдер восстановит задачу за вас.
Vast.ai также предлагает бессерверную инфраструктуру. Это не отменяет вопросов к конкретному хостеру и стоимости данных: проверенная документация описывает бессерверную тарификацию через расходы инстанса на вычисления, хранение и сетевой трафик. В этой подборке акцент на аренде через маркетплейс — наиболее понятном сценарии для небольшой команды, готовой управлять этими компромиссами.
- Выбор конкретного хостера даёт гибкой команде больше вариантов конфигурации.
- Предложения потребительских и серверных GPU покрывают разные потребности в памяти.
- Прерываемая аренда подходит задачам с проверенным восстановлением.
- Самое дешёвое предложение может не соответствовать требованиям к надёжности или региону.
- Стоимость загрузки, выгрузки и хранения после остановки зависит от хостера.
- Восстановление и сохранность данных при аренде нужно организовать самостоятельно.
Резервируемые кластеры и уже существующая облачная инфраструктура
Резервируйте мощности после измерения устойчивого спроса; оставайтесь рядом с существующей инфраструктурой, если перенос задачи создаст больше работы, чем сэкономит. Это разные основания для выбора крупной платформы. У небольшой команды может быть любое из них, даже если её потребности далеки от масштаба гиперскейлера.
6. CoreWeave: когда требования к кластеру уже определены
CoreWeave — инфраструктурное облако для ИИ с управляемым Kubernetes на физических GPU-узлах. Оно подходит команде, которая перешла от экспериментов к планированию вычислительных потребностей. Kubernetes координирует контейнеры на разных машинах; он полезен, когда такая оркестрация нужна развёртыванию и за неё кто-то отвечает. Для небольшой команды ограничениями становятся объём выделяемых ресурсов и эксплуатация: аренда целого узла и управляемый кластер всё равно требуют понятной нагрузки, плана хранения и ответственного специалиста. Рассматривайте CoreWeave, когда планирование мощностей стало реальной задачей, а не как стандартную площадку для выяснения потребностей модели.
Кому подходит: Командам с известной потребностью в кластере и возможностью эксплуатировать задачи в Kubernetes.
Главная особенность: Управляемый Kubernetes на физических узлах с кластерной сетью и изоляцией.
Цена: В таблице для Северной Америки инстанс GH200 с одним GPU стоит $6.50/час; резервируемые мощности — по запросу. Проверено 30 октября 2026 года на странице тарифов CoreWeave.
Бесплатный пробный доступ: На проверенной странице тарифов бесплатный пробный доступ к GPU не указан.
Внимательно читайте столбцы CoreWeave. Ряд опубликованных конфигураций содержит 8 GPU, включая строки с H100, H200, A100, L40 и L40S. На странице отдельно приведены цены инференса на одном GPU, но сноска ограничивает их клиентами платформы инференса. Разделить стоимость узла на число GPU полезно для расчётов, однако это не доказывает, что для обычной кластерной задачи можно арендовать только часть узла.
Страница цен разделяет Северную Америку и Европу и перечисляет варианты по требованию, спотовые и резервируемые мощности. При резервировании запросите точную конфигурацию узла, место развёртывания, срок обязательств и условия предоставления мощностей. Уточните и шаг тарификации в коммерческом предложении: публичная цена за час сама по себе не означает посекундных начислений.
CoreWeave указывает бесплатную передачу данных через интернет и внутри инфраструктуры, а хранение и публичные IP оплачиваются отдельно. Это повод присмотреться к платформе при больших объёмах передачи данных, но зарезервированные вычисления всё равно должны приносить пользу. Дешёвый трафик не компенсирует кластер, который простаивает большую часть оплаченного срока.
Документация CoreWeave Kubernetes Service описывает управляемую плоскость управления, физические узлы, частные сети и сеть для GPU. Для небольшой ИИ-команды решающий вопрос — ответственность: кто будет упаковывать задачи, следить за сбоями, управлять секретами и восстанавливать сервис? Если этим должен заниматься тот же человек, который ещё проверяет работоспособность приложения, более простой Pod или API может быстрее довести функцию до запуска.
- Подходит для спланированной нагрузки, требующей согласованной работы GPU-узлов.
- Управляемый Kubernetes даёт больше возможностей управления инфраструктурой, чем отдельная виртуальная машина.
- Публичные тарифы разделяют региональные узлы и предложения для инференса.
- Выделение целых узлов может дать небольшой задаче больше ресурсов, чем она способна использовать.
- Для резервирования нужен конкретный план мощностей и их загрузки.
- Даже на управляемой платформе эксплуатация кластерной нагрузки остаётся вашей ответственностью.
7. Google Cloud: когда GPU нужен рядом с работающим приложением
Google Cloud предлагает виртуальные машины Compute Engine с GPU. Это разумный кандидат, если приложение и данные уже находятся в его инфраструктуре. Размещение модели рядом с остальной системой может упростить развёртывание, даже если специализированное облако предлагает привлекательную ставку за GPU. Основное ограничение — доступ: должны одновременно подходить тип машины, регион, квота и фактическое наличие оборудования. Выбирайте Google Cloud, если задаче полезны его расположение и уже настроенные процессы эксплуатации; начальная цена GPU не равна стоимости всего сервера.
Кому подходит: Разработчикам, которые добавляют GPU-задачи в уже работающее на Google Cloud приложение.
Главная особенность: Семейства машин с GPU, для которых явно описаны региональная доступность и квоты.
Цена: Подключение T4 в Айове — от $0.35/час только за GPU, виртуальная машина оплачивается дополнительно. Проверено 30 октября 2026 года на странице цен ускорителей Google.
Бесплатный пробный доступ: Во время Free Trial добавлять GPU нельзя; требуется переход на платный аккаунт.
Цены на GPU в Google Cloud: не забудьте виртуальную машину
Подключаемый GPU — дополнительный ресурс, а не целая машина. У T4 из указанного предложения 16 ГБ видеопамяти. Если приложению нужно больше памяти или другой ускоритель, выбирайте другую конфигурацию, а не стройте бюджет вокруг минимальной ставки.
У Google также есть семейства машин со встроенными в конфигурацию GPU: G2 с L4, A2 с вариантами A100 и варианты A3 на H100 или H200. Цена такой машины и цена отдельно подключаемого GPU покрывают разный состав ресурсов. Включайте выбранный тип машины в расчёт вместе с хранением и сетевыми расходами.
Compute Engine тарифицирует посекундно с минимальной оплатой за одну минуту. Запущенная, но простаивающая виртуальная машина продолжает оплачиваться. Начисления за резервирование тоже возможны, пока ресурсы ещё не запущены: обеспечить их доступность и запустить задачу — разные решения. Границы описаны в правилах оплаты Compute Engine.
Доступность GPU в Google Cloud: одной квоты недостаточно
Наличие типа GPU в каталоге не гарантирует, что ваш аккаунт сможет запустить его в желаемой зоне сегодня. Google публикует поддержку GPU по зонам, а квоты действуют отдельно от фактического наличия мощностей. Проверьте нужную машину в списке регионов и зон GPU, затем подтвердите необходимые квоты GPU.
Например, команде, которая обслуживает клиентов рядом с уже размещённой базой данных, стоит определить допустимые соседние локации до запроса конфигурации GPU. Если в нужной зоне нет мощностей, перенос только сервера модели дальше от базы может изменить и время ответа, и маршрут передачи данных. Такой запасной вариант — изменение приложения, которое нужно проверить.
У Free Trial есть отдельное ограничение: нельзя добавлять GPU и запрашивать увеличение квот. Постоянный бесплатный уровень Free Tier у Google тоже не включает GPU. Поэтому обещания приветственных кредитов недостаточно, чтобы считать новый аккаунт готовым к немедленному эксперименту с GPU. Ориентируйтесь на условия самого Google.
- Подходит GPU-задачам, которым нужно оставаться рядом с существующим приложением в Google Cloud.
- Опубликованные таблицы машин и зон позволяют заранее проверить ограничения размещения.
- По мере уточнения требований можно выбирать между ресурсами по требованию и другими моделями предоставления мощностей.
- В расчёте нужно правильно учесть GPU, виртуальную машину, хранение и сеть.
- Одобренная квота не гарантирует наличия оборудования.
- Ограничения Free Trial не позволяют сразу получить доступ к GPU на пробном аккаунте.
Как выбрать облачные GPU для нейросетей
Сначала исключите оборудование, на котором задача не помещается, и только потом сравнивайте поставщиков подходящих конфигураций. В видеопамяти GPU, или VRAM, хранятся модель и состояние, необходимое для её работы. Модель может едва помещаться при загрузке, а затем дать сбой на более длинном промпте или дополнительном одновременном запросе.
Начните с оценки памяти только под веса. При точности 16 бит каждый параметр занимает 2 байта; при 4 битах на сам вес приходится полбайта. Поэтому у модели с 8 миллиардами параметров веса занимают примерно 16 ГБ в 16-битном формате или 4 ГБ в 4-битном. Для модели с 32 миллиардами параметров получаем 64 ГБ или 16 ГБ; с 70 миллиардами — 140 ГБ или 35 ГБ. Это наши расчёты в десятичных гигабайтах, а не измеренные требования работающего сервиса. Базовое правило расчёта памяти приведено в руководстве Runpod по подбору конфигурации.
Нужна и дополнительная память. Среда инференса использует рабочую память, а KV-кеш хранит состояние механизма внимания по мере генерации. На его объём влияют длина контекста и одновременные запросы. «Модель на 35 ГБ» не означает, что всему развёртыванию хватит 35 ГБ. Документация Hugging Face по кешу объясняет, почему память под него нужно оценивать отдельно.

Карты на 24 ГБ, 48 ГБ и 80 ГБ — удобные категории для оценки, но не гарантии. Небольшая квантованная модель может оставить полезный запас на устройстве с 24 ГБ. Более крупная модель, длинный контекст или больше одновременных запросов могут потребовать перехода в другой класс. Закладывайте явный запас относительно пикового измеренного потребления, а не подбирайте память по самому лёгкому успешному запросу.
Дообучение меняет расчёт. При полном обучении добавляются градиенты, состояние оптимизатора и сохранённые активации. Адаптерные методы обновляют меньшее подмножество параметров и могут снизить требования, но не отменяют все расходы памяти. Успешный инференс ещё не доказывает, что полное дообучение поместится на той же карте. См. разбор потребления памяти при обучении и обзор параметрически эффективного дообучения.
Затем проверьте конкретный вариант GPU и совместимость ПО. Наличие H100 в каталоге не означает, что у всех предложений H100 одинаковые форм-фактор, объём памяти, выделенные CPU и межсоединения. Для нескольких GPU нужен и фреймворк, который умеет эффективно распределять работу; покупка дополнительных карт сама по себе не решает проблему медленной или слишком большой задачи.
В завершение посчитайте весь оплачиваемый цикл. Для каждого финалиста отдельно рассмотрите запуск вычислений, полезную работу, ожидание в готовом состоянии, удаление ресурсов и оставшееся хранилище. Рассчитайте месяц по ожидаемому расписанию, включая простои и повторные попытки. Постоянно выделенная машина и короткая ежедневная пакетная задача требуют разных бюджетов даже при одинаковой почасовой ставке.
Что выбрать под ваш сценарий
Первый вопрос — нужен ли контроль над средой выполнения; второй — есть ли смысл постоянно держать её готовой к запросам. Если нужную функцию обеспечивает поддерживаемый API, начните с оценки Together AI. Если необходим собственный код инференса, а трафик неравномерен, сравните Modal и Runpod Serverless. Если нужна интерактивная среда или длительное дообучение, начните с Runpod Pods и инстансов Lambda.

Для возобновляемой пакетной задачи без жёстких требований к размещению добавьте в список Vast.ai. Для известной кластерной нагрузки с ответственным за эксплуатацию — CoreWeave. Если приложение уже зависит от определённой локации Google Cloud и настроенных там процессов, оцените его GPU-мощности до того, как тратиться на перенос к другому провайдеру.
Резервирование имеет смысл, когда вы знаете, что оборудование будет полезно на протяжении всего срока обязательств, а его гарантированная доступность сама по себе важна. Не резервируйте мощности ради выяснения будущей загрузки. Сначала запустите задачу, определите спрос, который сохраняется в тихие периоды, и резервируйте только объём, оправданный этим базовым уровнем.
Сервису, чувствительному к задержкам, выделенные или прогретые мощности могут быть нужны даже при сравнительно небольшом числе запросов. Ожидание клиента после каждого периода тишины может обходиться дороже простаивающего обработчика. Измеряйте первый ответ после бездействия и самые медленные ответы во время всплесков: средняя задержка способна скрыть обе проблемы.
Если вы ещё решаете, нужна ли вообще собственная среда выполнения на GPU, более широкий выбор уровня контроля над оборудованием разобран в руководстве по сравнению чипов для инференса и GPU.
Как мы отбирали провайдеров
Критерии отбора — соответствие задаче, понятная и проверяемая единица покупки, достаточная память, расходы на данные, поведение при запуске и доступность по регионам. Семь провайдеров охватывают управляемые API моделей, бессерверные приложения со своим кодом, прямую аренду GPU, маркетплейсы и заранее спланированные кластеры. Место в подборке означает рекомендацию под конкретную задачу, а не позицию в универсальном рейтинге скорости.
Цены и заявленные возможности проверены по страницам самих провайдеров 30 октября 2026 года. Для этого сравнения мы не арендовали GPU и не тестировали производительность или бесперебойность. Оценки памяти под веса — явные арифметические расчёты; рекомендации платформ — анализ поведения, описанного в документации.
Подборка ориентирована на разработчика или небольшую ИИ-команду. Большие облачные каталоги, посредники по закупкам и дополнительные гиперскейлеры лишь расширили бы список, не изменив первый вопрос: нужен вам эндпоинт модели, машина или кластер. Провайдера стоит включать в финальное сравнение, только если он может предоставить нужную конфигурацию там, где вы сможете ею пользоваться.
Каких вариантов лучше избегать
Избегайте неподходящей для вашей нагрузки схемы покупки, даже если сам провайдер хорош в других сценариях.
- Прерываемые мощности Vast.ai — если задачу нельзя возобновить или безопасно повторить. Прежде чем принимать риск прерывания, проверьте восстановление.
- Runpod Community Cloud — если план зависит от подключения сетевого тома Runpod. Этот вариант хранения предназначен для Pods в Secure Cloud.
- Modal с масштабированием до нуля — если каждый первый ответ должен укладываться в жёсткий предел задержки, а инициализацию вы ещё не измерили. Заложите бюджет на прогретые мощности или измените развёртывание.
- Lambda 1-Click Clusters или резервирование CoreWeave — пока нужное количество GPU и длительность нагрузки остаются предположениями. Сначала выясните спрос на меньшей арендованной конфигурации.
- Бессерверный Together AI — если нужная контрольная точка модели или поведение среды выполнения выходят за возможности поддерживаемого API-продукта. Оцените выделенные продукты платформы или программируемую GPU-среду.
- Google Cloud Free Trial без перехода на платный аккаунт — если рассчитываете сразу получить GPU. Ограничения на GPU прописаны прямо.
Вопросы об аренде облачных GPU
Какие провайдеры предлагают облачные GPU?
Здесь сравниваются семь провайдеров: Runpod, Lambda, CoreWeave, Vast.ai, Modal, Together AI и Google Cloud. Начните с нужной категории продукта: управляемый API модели, бессерверные вычисления со своим кодом, машина по требованию, аренда через маркетплейс или резервируемые кластерные мощности. В разделах о провайдерах разобрано, где эти категории пересекаются.
Можно ли пользоваться GPU в облаке бесплатно?
Starter у Modal включает ограниченные ежемесячные кредиты на вычисления, а не безлимитный доступ к GPU; токены Shared Endpoint оплачиваются отдельно. Free Trial у Google запрещает подключение GPU до перехода на платный аккаунт, а постоянный Free Tier не включает GPU. Together AI прямо требует предоплаты. Считайте кредиты способом проверить задачу, а не планом обеспечения рабочего сервиса мощностями.
Как правильно сравнивать облачные GPU?
Сравнивайте одну и ту же контрольную точку модели, точность, длины входа и число одновременных запросов на конкретном варианте GPU при одинаковом объёме выделенных ресурсов. Учитывайте оплачиваемый запуск и простой, хранение, передачу данных и неудачные попытки. Полезный результат сравнения — стоимость выполненной работы, которая соответствует требованиям к задержке и восстановлению, а не минимальная цифра рядом с «GPU-час».
На следующей неделе дайте двум финалистам одну небольшую задачу с одинаковыми критериями приёмки. Зафиксируйте пиковую память, время до первого полезного результата, производительность по завершённым задачам, оплачиваемое время жизни ресурсов и расходы, оставшиеся после остановки. Для обучения проверьте восстановление из сохранённой контрольной точки; для инференса — запрос после бездействия и всплеск нагрузки. Расширяйте развёртывание только тогда, когда эти данные подтвердят целесообразность.
Получите AI Business Workflow Audit Checklist и подпишитесь на рассылку для тех, кто внедряет ИИ.
- Опубликовано
- Категория
- Build
- Язык














