RAG или fine-tuning: как выбрать подход для компании

RAG или fine-tuning — выбор зависит от того, чего именно не хватает модели: нужных фактов о компании или умения правильно ими пользоваться. RAG нужен, когда модель не получает актуальные сведения; дообучение стоит рассмотреть, когда сведения у неё есть, но она раз за разом ошибается в стиле ответа или правилах принятия решений. Ниже — 3 бизнес-сценария, которые показывают, почему дешёвое обучение ещё не означает дешёвую систему.

Документация, доступность моделей и прейскурантные цены проверены 16 октября 2026 года. Нагрузки и расчёты ниже — условные примеры для планирования бюджета, а не результаты реальных внедрений у клиентов.

RAG или fine-tuning: какую ошибку нужно исправить?

Поиск решает проблему доступа к знаниям, а дообучение — повторяющихся ошибок в поведении модели. Это различие помогает сначала понять, куда направить усилия, и лишь затем — какой сервис покупать.

Retrieval-augmented generation, или RAG, находит подходящие материалы и добавляет их в рабочий контекст модели перед ответом. Fine-tuning, то есть дообучение, продолжает обучение предобученной модели на примерах нужных ответов или решений и меняет её параметры. Представьте сотрудника поддержки: поиск выдаёт ему актуальный справочник, а дообучение похоже на разбор ошибок с правильными примерами. Ни то ни другое не отменяет необходимости в понятных инструкциях.

Это полезная отправная точка, а не утверждение, что обучением нельзя передать факты. Дообученная модель может усвоить фактические связи. Но от этого она не становится надёжной базой действующих правил, прав доступа к документам и ссылок на источники. В сравнении AWS эти роли — доступ к знаниям и адаптация модели — разграничены.

Проверьте, достаточно ли модели нужного источника: возьмите вопрос, на котором она ошиблась, и вручную приложите правильный, актуальный фрагмент. Если ответ стал приемлемым, исправляйте поиск. Если ошибка осталась, проверьте инструкции, сложность задачи и поведение модели при ответе. Дообучение имеет смысл рассматривать только после улучшения этого более простого варианта.

Разработчикам такая проверка помогает разделить обработку документов и обучение модели. Тем, кто отвечает за работу системы, — понять, кто должен исправлять проблему: владелец базы знаний или человек, утверждающий обучающие примеры. Заказчикам она даёт полезный критерий приёмки: попросите поставщика показать, какую именно ошибку исправляет дополнительный компонент.

RAG, fine-tuning и промпт-инжиниринг: как выбрать подход

Начните с минимального изменения, которое позволит пройти проверку по критериям вашей задачи. Промпт-инжиниринг — это улучшение инструкций, примеров и контекста, передаваемых в запросе. Он остаётся частью системы и при поиске, и при дообучении.

Когда достаточно промпта, а когда нужен RAG?

Используйте промпт, если необходимые материалы уже есть в запросе. Добавляйте поиск, когда приложение должно найти их среди источников компании. Более точная инструкция не покажет модели условие расторжения договора, которого она не получила. А поисковый индекс не разрешит противоречия в инструкциях о том, как это условие применять.

Когда переходить от промпт-инжиниринга к дообучению?

Меняющиеся правила бренда и нерегулярные задачи оставляйте в промптах. Дообучение стоит рассмотреть, если стабильное, регулярно нужное поведение не удаётся получить даже с понятными инструкциями и репрезентативными примерами. Google в рекомендациях по дообучению советует сначала отладить базовое решение на промптах.

Чем fine-tuning отличается от transfer learning?

Fine-tuning — разновидность переноса обучения, или transfer learning: вы адаптируете к своей задаче способности, которые модель приобрела при предыдущем обучении. Это не ещё один способ искать источники. В данном случае главный вопрос — нужно ли вообще менять усвоенное моделью поведение.

До начала разработки проверьте поддержку модели

Прежде чем готовить проект дообучения на управляемой платформе, проверьте и поддержку модели, и доступность функции для вашего аккаунта. Названия модели в старом руководстве недостаточно.

Платформа самостоятельного дообучения OpenAI закрылась для организаций, которые раньше ею не пользовались, 7 мая 2026 года. С 2 июля 2026 года возможность создавать задания также потеряли организации, не запускавшие дообученную модель в предшествующие 60 дней. Согласно действующему уведомлению, активные существующие клиенты потеряют возможность создавать новые задания 6 января 2027 года; использовать уже дообученные модели для инференса можно лишь до вывода соответствующей базовой модели из эксплуатации. Для нового корпоративного проекта это не основной путь. Уведомление OpenAI о прекращении поддержки.

Google Gemini 3.1 Flash-Lite — один из вариантов: актуальная документация Google Cloud прямо указывает поддержку дообучения с учителем, то есть на размеченных примерах. Сейчас в документации Google платформа называется Gemini Enterprise Agent Platform; прежние страницы Vertex AI о дообучении перенаправляют туда. Ниже эта модель нужна для конкретного расчёта бюджета, а не как обещание лучшего результата на вашей задаче. Модели с поддержкой дообучения.

Ограничения развёртывания влияют на расчёты: дообучение этой модели выполняется в us-central1 или europe-west4, а дообученная модель обслуживает запросы через мультирегиональные эндпоинты us или eu. Считайте бюджет по тарифам этих эндпоинтов, а не по более низкой глобальной ставке базовой модели. Кроме того, Google не распространяет гарантию уровня обслуживания на дообучение с учителем. Ограничения дообучения.

Тарифы для расчётов ниже: стандартный текстовый инференс вне глобального эндпоинта стоит $0.275 за входные токены, $0.0275 за кешированные входные и $1.65 за выходные — за миллион токенов. Дообучение стоит $3 за миллион обучающих токенов, включая повторные эпохи, а инференс дообученной модели — в 1.5 раза дороже базового: $0.4125 за входные и $2.475 за выходные токены. Это прейскурантные цены Google Cloud, а не стоимость подписки на приложение Gemini. Тарифы Google.

Эпоха — один проход по обучающему набору данных. Во всех примерах предполагается один вызов модели на обрабатываемый элемент, а оплачиваемый объём вывода включает токены рассуждений, если они есть. В расчёты не входят налоги, разработка, разметка, вызовы для оценки качества, повторные попытки, хранение исходных документов, их сканирование и дополнительные поисковые сервисы. Для этого нужен отдельный бюджет: счёт за обучение не равен смете внедрения.

Три бизнес-сценария: что разрабатывать и за что платить

Ответы поддержки по документам компании: начните с RAG

Ассистенту поддержки разработчика ПО прежде всего нужны актуальные источники, а уже затем — обучение. Если клиент спрашивает, вступает ли расторжение договора в силу немедленно, ответ должен учитывать действующие правила и применимые исключения в договоре.

Настройте загрузку утверждённых документов: разбивайте их на полезные фрагменты, сохраняя URL источника, дату вступления в силу, продукт и права доступа. При запросе ограничивайте поиск материалами, доступными этому клиенту, находите подходящие фрагменты и просите модель отвечать на их основе со ссылками. Изменившиеся фрагменты заменяйте, удалённые — убирайте. Изменение источника само по себе не обновляет индекс мгновенно.

OpenAI text-embedding-3-small преобразует текст в числовые представления для поиска по сходству. Она стоит $0.02 за миллион входных токенов и по умолчанию создаёт векторы с 1,536 измерениями. Получение эмбеддингов делает документы доступными для поиска; модель, которая пишет ответы, при этом не обучается. Стоимость модели, размерность эмбеддингов.

В этом примере Cloudflare Vectorize служит векторной базой данных: хранит эти представления и находит похожие. Но качество источников она не гарантирует: близкий по вектору фрагмент может быть устаревшим или не относиться к вопросу. Приложение должно проверять права доступа и то, подтверждает ли выбранный текст ответ.

Стоимость подготовки: допустим, после разбиения получились 10,000 фрагментов в среднем по 500 токенов. Первичное создание эмбеддингов обойдётся в 5 миллионов токенов × $0.02 = $0.10. Извлечение содержимого документов и описанная выше разработка сюда не входят.

Индекс хранит 15.36 миллиона измерений, что превышает бесплатный лимит Vectorize в 5 миллионов. В платный тариф включены 10 миллионов хранимых измерений и 50 миллионов запрашиваемых измерений в месяц; сверх лимита — $0.05 за 100 миллионов хранимых и $0.01 за миллион запрашиваемых. По опубликованной формуле Cloudflare для такого индекса и 10,000 запросов в месяц получается 30.72 миллиона запрашиваемых измерений — в пределах включённого объёма. Доплата за хранение составит $0.00268 в месяц. Предполагается, что включённые объёмы не расходуются другими задачами аккаунта. Тарифы Vectorize.

Ежемесячный бюджет компонентов: заменить 1,000 фрагментов и получить эмбеддинги 10,000 вопросов в среднем по 100 токенов стоит $0.03. Сгенерировать 10,000 ответов, каждый из которых требует 2,500 входных токенов суммарно и 400 выходных токенов, стоит $13.475. Добавляем минимальную плату $5 за аккаунт Workers Paid и превышение лимита хранения: получается примерно $18.51 в месяц, плюс первоначальная стоимость эмбеддингов. Предполагается, что выполнение Workers укладывается во включённые лимиты. Тарифы Workers.

При проверке системы важно установить, использует ли ответ действующую версию правил, ссылается ли на подтверждающий фрагмент и не выдумывает ли исключения. Проверьте также удалённые документы и попытку клиента получить доступ к договору другого клиента. Возвращайтесь к дообучению лишь тогда, когда даже с правильными источниками остаётся воспроизводимая ошибка в поведении.

Фирменный стиль текстов: сначала примеры и кеширование, потом обучение

Устоявшийся редакционный стиль может оправдать дообучение; споры о том, каким должен быть голос бренда, — нет. Представим компанию, которая выпускает продуктовые рассылки. Письма должны быть прямыми, без преувеличенных обещаний и с конкретным следующим шагом в конце.

Начните с руководства по стилю и утверждённых примеров в промпте. Если модель регулярно не улавливает тонкие редакционные решения, подготовьте обучающие пары: исходный бриф и факты на входе, одобренный редактором текст на выходе. Архив готовых писем сам по себе не показывает, каким входным данным должен соответствовать тот или иной ответ.

Для условного брифа об открытии поддержки по субботам утверждённый вариант мог бы звучать так: «Теперь поддержка работает и по субботам. Если нужна помощь, напишите в чат». Этот текст показывает стиль, а бриф задаёт факты.

Отделяйте стиль от фактического содержания. Обучайте модель предпочитать короткие вступления, а сведения о продукте на текущую неделю передавайте в запросе. Отложите часть брифов для оценки качества и не используйте их в обучении. Попросите редакторов оценивать неподтверждённые утверждения, тон, наличие обязательной информации и объём нужных правок. Сходство текстов само по себе не доказывает, что модель хорошо пишет в стиле бренда.

Стоимость подготовки: 1,000 пар в среднем по 1,600 токенов суммарно × 3 эпохи = 4.8 миллиона обучающих токенов, или $14.40 за одно задание. Это допущения для бюджета, а не рекомендация, что именно такой объём данных или число эпох обеспечат нужное качество.

Ежемесячное использование модели: 10,000 черновиков, каждый с 1,200 входными и 400 выходными токенами, стоят $14.85 на дообученной модели. Та же базовая модель с 4,800 дополнительными токенами правил стиля и примеров в каждом запросе стоит $23.10 без попаданий в кеш. В предельном установившемся режиме, когда каждый повторяющийся префикс попадает в неявный кеш, стоимость базового решения на промптах снижается до $11.22, плюс расходы на промахи кеша и его прогрев. В расчётах используются приведённые выше тарифы Google.

Это меняет вывод о расходах на противоположный. Дообучение всё ещё может окупаться за счёт сокращения редакторских правок, но оно не обязательно дешевле многократной передачи длинного промпта с правилами стиля. Прежде чем выстраивать процесс обучения, измерьте использование кеша и долю текстов, которые принимают редакторы.

Классификация обращений: обучайте стабильным решениям, меняющиеся правила находите поиском

Классификатор обращений хорошо подходит для дообучения, если метки стабильны, а повторяющиеся ошибки можно измерить. Допустим, разрешены метки billing, access, bug и review.

Сообщение «Не могу открыть счёт» показывает главную сложность. В нём есть слово, связанное с оплатой, но отвечать за решение может очередь проблем с доступом. Согласуйте эту границу с руководителями поддержки, затем разметьте репрезентативные сообщения, в том числе неоднозначные. При разделении данных на обучающую и оценочную выборки сохраняйте связанные сообщения из одной переписки в одной выборке. Добавьте и более поздние обращения, чтобы выявить изменения языка или продуктов.

На выходе должна быть одна из разрешённых меток, но корректный формат ещё не означает успех. Отдельно измеряйте пропущенные срочные случаи, назначения в неверную очередь, ненужную ручную проверку и последующую нагрузку от переназначений. Заявление модели о собственной уверенности не заменяет откалиброванный порог для маршрутизации.

Стоимость подготовки: 5,000 размеченных примеров в среднем по 300 токенов суммарно × 3 эпохи = 4.5 миллиона обучающих токенов, или $13.50 за одно задание. Ежемесячное использование модели: 100,000 обращений по 250 входных и 20 оплачиваемых выходных токенов каждое стоят примерно $15.26 на дообученной модели против $10.18 за тот же короткий промпт на базовой. Более точные решения должны оправдывать эту доплату. Тарифы Google.

В коде приложения отклоняйте недопустимые метки и отправляйте неоднозначные случаи на проверку. Документация Google предупреждает: если при инференсе добавить управляемую генерацию, ограничивающую вывод заданной схемой, может возникнуть несоответствие условиям обучения. Поэтому оценивайте именно ту комбинацию, которую собираетесь внедрять. Известные проблемы дообучения.

Если зоны ответственности очередей часто меняются, храните действующие правила маршрутизации вне весов модели. Находите их поиском или передавайте в промпте. Если постоянно меняются сами границы классов, отложите дообучение, пока процесс не станет достаточно стабильным, чтобы ему можно было научить модель.

Как длинный контекст и кеширование промптов меняют выбор в 2026 году

Небольшую стабильную коллекцию документов теперь имеет смысл попробовать передавать напрямую, прежде чем разрабатывать поисковый сервис. Длинный контекст и кеширование появились не в 2026 году, но сегодня они меняют базовый вариант, с которым нужно сравнивать остальные решения.

Контекстное окно — объём материала, с которым модель может работать в рамках запроса. Для Gemini 3.1 Flash-Lite, выпущенной 7 мая 2026 года, заявлено контекстное окно в 1,048,576 токенов. Это ёмкость, а не гарантия, что модель правильно применит каждое исключение из большого справочника. Оставьте место для инструкций, вопроса и генерации, а затем проверьте сложные фрагменты. Характеристики модели.

RAG и CAG: поиск или заранее загруженный контекст?

Cache-augmented generation, или CAG, — подход, при котором знания загружают заранее и повторно используют кешированный контекст, вместо того чтобы искать документы для каждого вопроса. Он полезен, если нужный корпус помещается в контекст, редко меняется и все получатели имеют одинаковые права доступа к нему. Кеширование промптов позволяет повторно использовать результат обработки повторяющегося ввода; оно не записывает факты в веса модели и не гарантирует актуальность ответа.

Для условного справочника на 80,000 токенов, используемого в 10,000 запросах, только входные токены этого справочника стоят $220 без кеширования или $22 по кешированному тарифу при попадании в кеш всех запросов. Новые вопросы, вывод, промахи кеша и его создание по-прежнему оплачиваются. Хранение явного кеша такого справочника в течение 720 часов добавит $57.60 за хранение по опубликованной ставке $1 за миллион токен-часов. Тарифы Google на кеширование.

При неявном кешировании платы за хранение нет, но попадания в кеш не гарантированы. Размещайте общие материалы в начале, сохраняйте префикс неизменным и проверяйте cachedContentTokenCount в ответах. Для этой модели нужно как минимум 4,096 токенов подходящего для кеширования контекста, поэтому бюджет короткого промпта для обращения нельзя считать по кешированному тарифу. Документация по кешированию.

Граница здесь практическая. Передавайте длинный контекст напрямую, если справочник ограничен по объёму и вы можете целиком обновлять его и выдавать к нему доступ. Используйте поиск, если корпус компании больше, обновляется по частям или содержит документы с разными правами доступа. Если это полезно, кешируйте общий префикс инструкций внутри RAG-системы: эти решения можно сочетать.

Не считайте, что все возможности кеширования доступны и после дообучения. В актуальной документации Google по кешированию для дообученных моделей указано, что явное кеширование для них не поддерживается, а поддержка неявного зависит от версии модели.

Объединяйте подходы, если факты меняются, а ошибки в поведении остаются

Сочетайте поиск и дообучение, когда каждый из них исправляет отдельно выявленную проблему. Например, ассистент поддержки может находить действующее условие расторжения договора, а дообученная модель — соблюдать принятую в компании структуру: ответ, подтверждающий источник, разрешённое следующее действие либо передача вопроса специалисту.

Обучайте на примерах, похожих на те материалы, которые модель будет получать в рабочей системе. Включайте случаи с отсутствующими, нерелевантными и противоречивыми фрагментами, чтобы модель училась запрашивать уточнения или отказываться выдумывать ответ. При работе системы права доступа по-прежнему нужно проверять до того, как закрытые материалы попадут в модель.

Оценивайте поиск и поведение модели при ответе отдельно. Корректные ссылки, соблюдение прав доступа и обновление источников остаются обязанностями приложения; дообучение не обеспечивает их автоматически.

Если для поиска подтверждающих сведений нужны дополнительные поисковые запросы, руководство по агентному RAG объясняет, когда поисковый цикл с заданными ограничениями оправдывает свою сложность. Когда стабильная ошибка в поведении уже обосновывает обучение, материал о том, как дообучить LLM, поможет разобраться с подготовкой датасета, чекпойнтами и оценкой качества.

Какие обещания преувеличены?

Ни «RAG всегда лучше», ни «после дообучения модель будет знать нашу компанию» не годятся как техническое задание. Поиск может подвести из-за устаревших источников, неудачного выбора фрагментов или недостающего контекста. Дообучение может закрепить противоречивые примеры и заставить модель ещё последовательнее воспроизводить устаревшее правило.

Низкую стоимость вычислений для обучения тоже легко переоценить. В счёт не входят работа над критериями качества, разрешение разногласий при разметке и поддержание полезного тестового набора. Более длинное контекстное окно снимает ограничение по объёму, но не доказывает, что модель правильно рассуждает обо всех предоставленных фактах.

Требуйте более конкретного доказательства: на отложенных примерах ваших задач компонент исправляет названную ошибку, сохраняя остальные требования. Если текущий промпт уже проходит проверку, оставьте систему как есть.

Когда выбирать RAG, а когда — дообучение?

Пробелы в источниках устраняйте сразу; обучение отложите, пока не сможете назвать и измерить ошибку в поведении. Если правила компании меняются, ответственным за процессы стоит наладить владение источниками и их обновление. Если у редакторов уже есть утверждённые примеры, но одни и те же правки повторяются, пора сравнить промптинг с дообучением. Классификатор с меняющимися метками пока лучше не дообучать. Само появление ещё одного способа оптимизации не требует менять процесс, который уже работает на промптах.

Вот с чего стоит начать в понедельник:

1. 1

   Зафиксируйте ошибки до изменения системы

   Выберите репрезентативные вопросы в поддержку, брифы для текстов или обращения. Запишите утверждённый ответ либо решение и не включайте эти оценочные примеры в обучающую выборку.

2. 2

   Вручную добавьте недостающие сведения

   Повторите задачу с правильным фрагментом и понятными инструкциями. Определите причину оставшейся ошибки: недостающие знания, неясное правило, неверное поведение или задача, с которой модель пока не справляется.

3. 3

   Рассчитайте стоимость минимального решения

   Сравните текущий промпт, промпт с кешированием или длинным контекстом, поиск и лишь затем, если нужно, дообучение поддерживаемой модели. Считайте фактически оплачиваемые токены, попадания в кеш, повторные попытки и труд людей, исправляющих результат.

4. 4

   Внедряйте решение, прошедшее проверку по критериям задачи

   Выберите самую простую архитектуру, которая проходит проверку. Назначьте ответственного за обновление документов или проверку обучающих примеров, зафиксируйте используемые версии и сохраните возможность отката.

Частые вопросы

Что такое fine-tuning в ИИ?

Fine-tuning, или дообучение, адаптирует предобученную модель с помощью дополнительных обучающих примеров. В корпоративных процессах обычно полезно обучать воспроизводимому стилю ответа или поведению при решении задачи.

Сколько стоит дообучить модель?

В примере с текстами одно задание обучения в Google стоит $14.40 при указанных допущениях о токенах и эпохах. Разметка, оценка качества, обслуживание запросов и разработка оплачиваются отдельно, а неудачные эксперименты добавляют новые задания.

Что может быть лучше RAG?

Прямой промпт может быть проще, если он уже содержит все необходимые сведения. Дообучение может помочь со стабильной проблемой в поведении. Но ни то ни другое не заменяет поиск, когда системе нужно находить актуальные факты с учётом прав доступа.

В чём главное отличие дообученной модели от системы с RAG?

Дообучение меняет усвоенные параметры модели в процессе обучения. RAG меняет сведения, которые она получает при запросе. Обновить индекс источников, переобучить модель и доказать, что ссылка в ответе действительно его подтверждает, — разные задачи.

Правда ли, что польза fine-tuning опровергнута?

Нет, если речь об адаптации моделей машинного обучения. Польза зависит от задачи: её нужно показать в сравнении с базовым решением на промптах и на примерах, которые не использовались для обучения.

Как дообучали ChatGPT?

В первоначальном анонсе ChatGPT, опубликованном OpenAI в 2022 году, описывались обучение с учителем на примерах диалогов и последующее обучение с подкреплением на основе обратной связи от людей. Этот исторический процесс не связан с нынешними условиями доступа компаний к дообучению через API.

Что Stephen Hawking говорил о тонкой настройке?

Это вопрос о тонкой настройке Вселенной — другом значении термина fine-tuning. К адаптации языковой модели он не относится. Здесь мы обсуждаем выбор между поиском и обучением для бизнеса, а не утверждения об устройстве Вселенной.

Дообучение моделей всё ещё актуально?

Да. В действующей документации Google перечислены поддерживаемые модели, в том числе модель Gemini из этой статьи. Доступность у провайдеров меняется, поэтому перед подготовкой задания проверьте конкретную модель и возможности своего аккаунта.

Какую модель лучше выбрать для дообучения?

Выберите поддерживаемую базовую модель, которая уже справляется с основной задачей и соответствует вашим ограничениям развёртывания. Gemini 3.1 Flash-Lite здесь служит примером с рассчитанной стоимостью, а не проверенным универсальным победителем; решают результаты на ваших отложенных примерах.

Чтобы принимать практические решения при разработке с ИИ, подпишитесь на рассылку.