Дистилляция моделей: как обучить малую LLM для реальных задач

Дистилляция моделей подходит для повторяющихся задач, с которыми может справиться небольшая специализированная модель. Самую мощную модель стоит оставить для случаев, с которыми небольшая модель не справляется. Доступность обучения теперь не менее важна, чем выбор модели: действующие клиенты OpenAI, сохранившие право на дообучение, потеряют возможность запускать новые задания 6 января 2027 года, а при более раннем отключении базовой модели — ещё раньше. Сроки доступности в OpenAI

Лучший кандидат — функция на базе большой языковой модели (LLM) с чёткими и устойчивыми требованиями: классифицировать запрос, извлечь заданные поля, выбрать маршрут обработки или вернуть ответ строго определённого формата. Сначала проверьте небольшую модель без дополнительного обучения. Дистилляция имеет смысл, когда большая модель справляется с важными случаями, которые малая пропускает, и эту разницу можно превратить в надёжные обучающие примеры.

Документация провайдеров и условия использования ответов для обучения проверены 26 октября 2026 года. Ниже речь идёт о промышленных API и лицензиях конкретных моделей. Для подписки на потребительский чат-бот или другого договора на размещение могут действовать иные правила.

Как работает дистилляция моделей?

Большая модель-учитель создаёт метки или образцы выполнения задачи, а меньшая модель-ученик учится на этих примерах. После обучения ученик может обрабатывать типовые запросы, не обращаясь к учителю при каждом вызове. При дообучении с учителем существующую модель обучают на примерах входных данных и желаемых ответов. В управляемом процессе дистилляции эти ответы может предоставлять модель-учитель. Процесс дистилляции в документации

Представьте инструктора по скалолазанию, который показывает короткий маршрут. Ученик отрабатывает нужные для него движения, но не перенимает способность инструктора покорить любую гору. У модели в рабочей системе такое же ограничение: освоив классификацию запросов на возврат денег, она не становится универсальной заменой учителю.

Допустим, функция службы поддержки распределяет сообщения по категориям billing, technical, cancellation и needs_review. Учитель читает репрезентативные сообщения и предлагает метки. Проверяющий разбирает неоднозначные случаи. Ученик обучается на утверждённых парах «сообщение — метка», а затем получает новые сообщения, правильные ответы для которых проверены независимо.

Последний этап принципиален: совпадение с ответом учителя ещё не означает правильность. Если учитель систематически принимает просьбы об отмене за вопросы об оплате, точное подражание лишь закрепит ошибку.

Дистилляция знаний (knowledge distillation) в LLM: обучение на ответах учителя

Для разработчика приложения практичнее всего обычно начать с дистилляции по ответам: сохранить входные данные и подходящие ответы учителя, затем обучить ученика на этих парах. Для описанного в документации процесса не нужен доступ к весам учителя — числовым параметрам внутри модели, полученным при обучении. Зато необходимы право повторно использовать ответы и способ обучения ученика, который поддерживает вашу задачу. Руководство OpenAI по дообучению с учителем

Дистилляция нейросетей не сводится к копированию текста. Базовая исследовательская работа описывает и перенос знаний из ансамбля — группы моделей — в одну модель, которую проще развернуть. Но для узкой задачи в рабочем продукте важнее понять, научился ли ученик принимать нужные решения, чем пытаться воспроизвести учителя целиком. Статья о дистилляции знаний в нейросети

Эти подходы можно сочетать. Квантизацию LLM можно провести после обучения, а затем снова оценить качество. В статье «RAG или дообучение» объясняется, почему освоенный шаблон ответа не заменяет поиск меняющихся сведений о компании.

Когда дистилляция моделей ИИ окупается, а когда — нет

Дистилляция особенно привлекательна, когда задача остаётся узкой, запросы повторяются, а переход на ученика улучшает измеримый показатель, который вас ограничивает. При большом объёме трафика затраты на обучение и проверку распределяются на большее число запросов. Требования ко времени ответа тоже могут оправдать эту работу, даже если экономия не главная цель.

Сервис приёма документов — подходящий кандидат, если он постоянно извлекает одни и те же поля из знакомых типов документов. У помощника, который должен отвечать на произвольные вопросы, осваивать незнакомые инструменты и рассуждать в новых предметных областях, задача гораздо шире. Уменьшить такого помощника целиком намного сложнее, чем специализировать его классификатор намерений.

Разработчикам: зафиксируйте входные данные, формат ответа и поведение при сбоях до сбора датасета. Если в счёте нет номера заказа на закупку, правильным результатом извлечения может быть null, а не правдоподобная догадка. Обучающие примеры должны закреплять это различие.

Тем, кто отвечает за эксплуатацию: сравнивайте весь путь обработки запроса. Учитывайте повторные попытки, ошибки валидации, ручную проверку, передачу запросов учителю, постоянную оценку качества и переобучение. Снижение затрат ресурсов на инференс полезно, только если остальные издержки не съедают выигрыш. Универсального порога трафика, после которого дистилляция становится выгодной, нет.

Тем, кто выбирает поставщика: убедитесь, что нужные учитель, ученик, метод обучения и место развёртывания доступны в сочетании друг с другом. Если провайдер предлагает обе модели для обычного инференса, это ещё не значит, что он поддерживает дистилляцию одной в другую.

Конфиденциальность может быть причиной перейти на небольшую модель-ученика с подходящим размещением, но малый размер сам по себе её не обеспечивает. Проследите, где находятся исходные данные, где обрабатываются запросы к учителю, где хранятся обучающие файлы и логи и где работает развёрнутая модель. Локальный запуск ученика не отменяет того, что при подготовке датасета конфиденциальные данные уже могли уйти удалённому учителю.

Отложите дистилляцию, если постановка задачи часто меняется, примеры нерепрезентативны, разметка учителя ненадёжна или права на обучение не выяснены. Откажитесь от обучения, если небольшая модель без дообучения уже проходит проверку. Google прямо отмечает, что выигрыш от дистилляции меньше, когда ученик и так близок к учителю на целевой задаче. Рекомендации Google по применению дистилляции

Какие управляемые сервисы дистилляции доступны

Выбирайте сервис с учётом текущей поддержки обучения и сроков доступности, затем проверяйте условия именно этого варианта работы. Сравнение ниже основано на документации, проверенной 26 октября 2026 года.

Дистилляция в OpenAI: для действующих клиентов и с конечным сроком

Описанный OpenAI процесс таков: улучшить промпт учителя, собрать ответы, соответствующие вашим критериям, подготовить датасет и дообучить меньшую модель. Это по-прежнему полезное объяснение механизма. Но рекомендовать такой путь любому новому пользователю уже нельзя: действующее руководство сообщает, что платформа дообучения для новых пользователей недоступна. Дообучение с учителем в OpenAI

Допущенные действующие клиенты могут создавать задания только до 6 января 2027 года, если модель не отключат раньше. GPT-4.1 и GPT-4.1 mini, включая их дообученные версии, отключат 14 января 2027 года. Указанное в документации отключение GPT-4.1 nano и o4-mini состоялось 23 октября 2026 года. При таких сроках трудно оправдать новую долгосрочную зависимость от платформы, даже если у вашего аккаунта ещё есть доступ. График отключений OpenAI

Практический вывод: действующим пользователям стоит планировать миграцию и сохранять данные для оценки качества. Новому проекту нужно выбрать доступный способ обучения, а не строить решение вокруг давнего анонса дистилляции.

Google Vertex AI: не путайте дообучение Gemini с дистилляцией открытых моделей

Документация Google Vertex AI по генеративным моделям теперь открывается в разделе Gemini Enterprise Agent Platform. Руководство по дообучению Gemini описывает обучение с учителем на размеченных примерах и перечисляет модели, в том числе Gemini 3.5 Flash и Gemini 3.5 Flash-Lite. Метод рекомендуется для классификации, анализа тональности и извлечения сущностей. Актуальный обзор дообучения Google

Отдельно Google описывает управляемую дистилляцию открытых моделей через GenAI SDK. Среди примеров в списке учителей — DeepSeek R1 0528 и DeepSeek V3.2, среди учеников — Qwen 3 8B и Gemma 3 4B IT. Для дообучения открытых моделей с учителем также доступны полное дообучение и LoRA, при котором обновляется меньше параметров. Список моделей для этого метода отличается от списка доступных для дистилляции. Документация по дообучению открытых моделей

Главное ограничение — сочетание метода, модели и региона. Помимо квоты на обучение нужна квота на инференс учителя. Глобальный эндпоинт сам выбирает поддерживаемый регион, поэтому для соблюдения требований к размещению данных регион необходимо настроить явно. Для простой классификации сначала проверьте меньшую модель, прежде чем выбирать ориентированную на рассуждения дистилляцию Google.

Amazon Bedrock Model Distillation: управляемый процесс с заданными парами моделей

Amazon Bedrock Model Distillation объединяет генерацию ответов учителем, синтез данных и дообучение ученика в одном процессе. Можно передать промпты или использовать существующие логи вызовов модели — записи прошлых запросов и ответов, сохранённые в Amazon Simple Storage Service (Amazon S3). Bedrock также предлагает дообучение с учителем и дообучение с подкреплением как отдельные методы адаптации. Процесс дистилляции, методы адаптации моделей

В актуальной таблице пар указаны Amazon Nova Pro → Nova Lite или Nova Micro в US East (N. Virginia), а среди вариантов Llama — Meta Llama 3.3 70B → Llama 3.1 8B в US West (Oregon). В документации прямо сказано, что дистилляция моделей Anthropic сейчас недоступна, а подтверждённых сроков восстановления нет. Поддерживаемые пары и регионы

Руководство Bedrock по подготовке данных ограничивает передаваемый объём 15K промптов или пар «промпт — ответ». Это лимит задания, а не свидетельство того, что вашей задаче нужно именно столько примеров. Подбирайте данные так, чтобы они покрывали реальные решения и случаи ошибок. Ограничения при подготовке датасета

Этот путь практичен, если нужная пара поддерживается, а требования к развёртыванию совместимы с сервисом. Обучать произвольного ученика у произвольного учителя он не позволяет.

Ловушка в условиях: права на ответы не означают разрешения обучать модель

Прежде чем обучать другую модель на полученных ответах, проверьте договор, который действует для выдавшего их эндпоинта. Принадлежность прав на ответы, обещание провайдера не обучаться на ваших данных и ваше право обучать ученика — разные положения.

Цитаты ниже намеренно короткие. Область их применения не менее важна, чем сами слова: фактическое использование определяется подписанным вами договором, формой заказа и применимыми условиями продукта.

OpenAI: ограничение на конкурирующие модели с оговорёнными исключениями

Договор оказания услуг OpenAI ограничивает использование ответов для разработки моделей, которые «конкурируют с продуктами и услугами OpenAI», за исключением случаев, подпадающих под определение разрешённого исключения. Оно охватывает внутренние модели, предназначенные прежде всего для категоризации, классификации или упорядочивания данных, при условии, что их не распространяют и не предоставляют третьим лицам на коммерческой основе. В него также входит дообучение или адаптация моделей, предоставляемых через указанные сервисы OpenAI. Договор оказания услуг: ограничение и определения

Поэтому внутренний классификатор существенно отличается от универсальной генеративной модели, которую предлагают клиентам. Не стоит считать, что любая функция извлечения данных, размещённый классификатор или закрытая универсальная модель подпадает под исключение. Попросите ответственного за договор подтвердить допустимость конкретного использования.

Есть и различие по срокам. OpenAI опубликовала обновление правил, вступающее в силу 20 ноября 2026 года, то есть после даты проверки этой статьи. Оно касается использования моделей или ответов для создания обучающих сигналов для альтернативных или заменяющих решений, включая метки, обратную связь и фильтрацию, при этом сохраняя способы использования, прямо разрешённые применимым договором. Учитывайте его как предстоящее изменение, а не как правило, уже действующее на дату проверки. Опубликованное обновление правил использования

Anthropic: для обучения конкурирующих моделей нужно прямое разрешение

Коммерческие условия Anthropic запрещают обращаться к сервисам для создания конкурирующего продукта или услуги, в том числе чтобы «обучать конкурирующие модели ИИ», кроме случаев, когда это прямо разрешено. Отдельное положение о передаче прав на ответы не снимает этого ограничения. Коммерческие условия Anthropic, D.4

Поэтому прежде чем превращать ответы Claude в датасет для другой модели, нужно проверить условия конкретного договора. Старый анонс облачной дистилляции не доказывает ни её текущую доступность, ни наличие разрешения.

Google: для Cloud и Gemini API действуют разные договоры

Ограничения Google Cloud запрещают использовать ответы сервисов, чтобы «подменять, заменять или обходить использование модели Google» либо «создавать или улучшать модели, подобные модели Google». Прямое исключение предусмотрено для сервисов, предлагающих дообучение или дистилляцию: их ответы можно использовать для модификации моделей Google и использования модифицированных моделей вместо предварительно обученных моделей Google. У разных предложений разные условия. Специальные условия сервисов Google Cloud

У API Gemini для разработчиков другая формулировка: нельзя использовать его сервисы, чтобы «разрабатывать модели, конкурирующие с Сервисами». Эти дополнительные условия прямо разграничивают такой доступ и непосредственное использование Google Cloud Platform. Разрешение в рамках управляемого процесса Cloud нельзя автоматически переносить на отдельный план генерации обучающих данных через Gemini API. Дополнительные условия Gemini API

Amazon: исключение зависит от разрешения конкретного сервиса

Соответствующее ограничение в условиях AWS начинается со слов «За исключением случаев, разрешённых сервисом ИИ». В остальных случаях оно запрещает генерировать контент «с прямой целью обучения модели или сервиса ИИ», а также разрабатывать существенно схожую модель или сервис. Bedrock также включает применимые условия сторонних моделей. Условия AWS: сервисы ИИ и Bedrock

Рассматривайте описанный в документации управляемый процесс и допущенные пары моделей как конкретный вариант, который нужно изучить. Само его наличие не даёт безусловного права экспортировать ответы любой модели Bedrock в произвольное внешнее задание обучения.

Meta Llama: важны название модели и условия распространения

Лицензия Meta Llama 3.3 прямо рассматривает обучение другой модели на материалах или ответах Llama. Если полученную модель распространяют или предоставляют к ней доступ, лицензия требует указывать Llama «в начале названия любой такой модели ИИ». Также важны условия лицензирования, указания авторства и другие применимые требования. Лицензия сообщества Llama 3.3

Это лицензия конкретной модели, а не универсальное правило для всех моделей Meta или всех размещённых эндпоинтов. Сохраняйте вместе с датасетом точную версию модели и условия её размещения.

Mistral AI: отделяйте текстовые ответы от ограничений на изображения

Текущее ограничение в коммерческих условиях Mistral AI касается «выходных данных в виде изображений», используемых, чтобы «разрабатывать или обучать конкурирующий продукт для генерации изображений». Этот пункт относится именно к изображениям; представлять его как полный запрет на обучение по текстам было бы неверно. Те же условия отдельно запрещают использовать ответы для обратной разработки продуктов Mistral AI. Кроме того, могут действовать дополнительные условия конкретного продукта или варианта развёртывания. Коммерческие условия Mistral AI

Для датасета LLM проверяйте использование текстов по применимому договору. Не переносите на него ни ограничение для изображений, ни предположение о неограниченном разрешении.

Grok: обучение на ответах требует исключения в форме заказа

Корпоративные условия Grok на x.ai запрещают использовать «любые выходные данные для обучения любых базовых моделей, больших языковых моделей или иных систем искусственного интеллекта», если это прямо не разрешено формой заказа. На странице стороной договора со стороны провайдера указана SpaceXAI LLC, использующая название SpaceXSI. Корпоративные условия Grok: права на входные и выходные данные

Эта формулировка шире ограничения только на конкурирующие модели. Не считайте внутреннего ученика исключением лишь потому, что он остаётся внутри компании.

DeepSeek-R1: прямое разрешение на дистилляцию для конкретного релиза

Официальный репозиторий DeepSeek-R1 сообщает, что код и веса распространяются по MIT License, и прямо разрешает «дистилляцию для обучения других LLM». Там же указаны исходные лицензии Qwen и Llama для уже дистиллированных версий. Раздел о лицензии DeepSeek-R1

Это полезное разрешение, привязанное к конкретному релизу. Оно не определяет условия для всех будущих моделей DeepSeek, сервисов размещения или базовых моделей ученика. Сохраняйте в документации выпуска и разрешение на использование учителя, и лицензию ученика.

Проверьте качество до переключения рабочего трафика

Ученик готов к работе, когда он соответствует критериям приёмки функции на новых входных данных, близких к реальным, и выдерживает контролируемое внедрение. Снижение функции потерь — ошибки, измеряемой во время обучения, — не доказывает ни того ни другого.

Ниже предложен порядок выпуска, а не отчёт о результатах бенчмарков.

1. 1

   Зафиксируйте задачу и исходные результаты

   Опишите требования к входным данным, допустимые значения ответа, обязательные поля и поведение при отказе от ответа. Сохраните на репрезентативной выборке результаты текущего учителя и небольшой модели с настроенным промптом. Определите приемлемое качество и время ответа до того, как увидите оценку обученного ученика.

2. 2

   Разделите обучение, валидацию и итоговое тестирование

   Используйте обучающую выборку для обновления весов, а валидационную — для выбора промптов или контрольных точек модели. Не трогайте финальную тестовую выборку, пока эти решения не приняты. Группируйте связанные переписки с клиентами, шаблоны документов и почти одинаковые примеры так, чтобы их копии не попадали в разные выборки. Включите недавние реальные запросы, редкие классы и сложные примеры.

3. 3

   Подготовьте и проверьте примеры учителя

   Поручите учителю, на использование которого есть разрешение, разметить обучающие входные данные. Проверьте формат, разберите неоднозначности и исправьте существенные ошибки. Сохраните примеры, в которых правильный ответ — отказ от ответа или отсутствующее значение. Зафиксируйте модель-учителя, промпт, права на исходные данные и версию датасета. Подробнее этот этап разобран в руководстве по генерации синтетических данных.

4. 4

   Оценивайте решение бизнес-задачи, а не сходство ответов

   Для классификации измеряйте ошибки по каждому классу, особенно полноту там, где пропуски дорого обходятся: сколько настоящих запросов на отмену удалось распознать? При извлечении данных проверяйте точные значения обязательных полей и обработку отсутствующих полей. Для генерации в заданном формате проверяйте соответствие схеме — соблюдает ли ответ требуемую структуру — отдельно от фактической правильности. Для маршрутизации измеряйте, решает ли запрос выбранный дальнейший путь обработки. Разбирайте расхождения между учителем и учеником по независимо проверенным ответам.

5. 5

   Сначала теневой режим, затем ограниченное внедрение

   В теневом режиме копируйте реальные входные данные ученику, пока ответ пользователю по-прежнему выдаёт существующая система. Измеряйте качество, медленные запросы, тайм-ауты и потребность в передаче запроса дальше под реальной нагрузкой. Если проверка пройдена, направьте к ученику лишь контролируемую долю трафика в рамках канареечного развёртывания, с явными условиями остановки и рабочим откатом.

6. 6

   Сохраните резервный путь и отслеживайте дрейф данных

   Возвращайте неподдерживаемые входные данные, случаи ошибок валидации и заранее определённые запросы высокого риска учителю или на ручную проверку. Следите за изменениями состава входных данных, ошибками по классам и долей запросов, которым нужен резервный путь. Повторяйте оценку после изменения промптов, схем, контрольных точек ученика, квантизации или исходных данных. Частое обращение к резервному варианту — повод пересмотреть решение.

Например, критерии допуска функции извлечения данных могут требовать от ученика сохранить точность обязательных полей для каждого важного типа документов, укладываться в целевое время ответа существующего сервиса и правильно отказываться от ответа при отсутствии информации. Пороговые значения задаёт ответственный за функцию, исходя из последствий ошибок. Общий бенчмарк поставщика не может определить их за вас.

Используйте руководство по маршрутизации между моделями, чтобы определить, какие запросы достаются ученику, а какие передаются самой мощной модели. Не полагайтесь только на уверенность, о которой сообщает сам ученик. Правила допустимости входных данных, валидация ответов и измеренные закономерности сбоев дают маршрутизатору конкретные основания для решения.

Какие обещания дистилляции преувеличены

«Маленькая модель становится большой». Она учится на том обучающем сигнале и том наборе примеров, которые вы предоставили. Успех на знакомых шаблонах извлечения данных мало говорит о работе с незнакомым языком, новым типом документов или более широкой задачей на рассуждение.

«Сгенерированные данные избавляют от разметки». Они переносят часть работы с создания меток на их проверку. Учитель способен сгенерировать большую коллекцию систематически неверных примеров. Разбор спорных случаев людьми и независимые ответы для тестирования по-прежнему ценны.

«Меньшая модель гарантирует экономию». В работающую функцию входят резервный путь, проверка, размещение, мониторинг и переобучение. Оценивайте результат целиком. Сокращение времени ответа нужно подтвердить измерениями, а не считать обещанием, которое следует из размера модели.

«Управляемая дистилляция решает вопрос прав». Она даёт описанный в документации процесс с определёнными границами. Она не превращает любые ответы моделей в обучающий материал без ограничений.

«Корректный JSON означает, что функция работает». Неверный идентификатор аккаунта в безупречном формате всё равно неверен. Проверка формата — один из критериев допуска к выпуску, а не вся оценка качества.

Частые вопросы о дистилляции LLM

Дистилляция моделей действительно работает?

Она позволяет передать ученику полезные способы решения задачи от учителя. Для вашей функции важны результаты на новых входных данных с независимо проверенными ответами, а затем — контролируемое внедрение в рабочую систему. Общих способностей на уровне учителя дистилляция не гарантирует.

Чем дистилляция моделей отличается от дообучения?

Дистилляция — это обучение по сигналу другой модели. Дообучение — обновление уже обученной модели на данных конкретной задачи. Когда ответы учителя становятся примерами для обучения ученика с учителем, одна и та же процедура является и дистилляцией, и дообучением.

Как провести дистилляцию LLM?

Определите узкую задачу, подтвердите права на использование ответов учителя и модели-ученика, подготовьте репрезентативные и проверенные примеры учителя, обучите ученика поддерживаемым способом и сравните его с учителем и небольшой моделью без дообучения. До широкого переключения трафика проведите оценку на отложенной выборке, проверку в теневом режиме и канареечное развёртывание.

Что такое дистиллированная модель?

Это модель, обученная по сигналу другой модели; часто цель — сделать меньшую модель эффективной в определённой задаче. Её возможности по-прежнему зависят от самого ученика, обучающих данных и того, что именно вы проверяете.

Что такое дистилляция моделей?

Дистилляция моделей переносит освоенное поведение от модели-учителя к модели-ученику через обучение. В распространённом процессе для LLM учитель создаёт метки или ответы, а ученик учится на утверждённых парах входных и выходных данных.

Какие существуют четыре вида дистилляции?

Для дистилляции LLM нет универсальной классификации из четырёх видов. Списки с такой формулировкой часто относятся к разделению жидкостей — другому значению слова «дистилляция». Для функции на базе LLM нужно определить конкретный обучающий сигнал и метод обучения, а не выбирать из химической классификации.

Какие 5 примеров применения дистилляции можно привести?

В приложениях на базе LLM возможные задачи — маршрутизация обращений в поддержку, разметка намерений, извлечение полей из счетов, нормализация записей и генерация ответов заданного формата. Это варианты применения, которые нужно оценивать, а не утверждение, что дистиллированная модель автоматически справится со всеми пятью.

Какие недостатки есть у дистилляции?

Можно унаследовать ошибки учителя, пропустить редкие входные данные, много потратить на проверку датасета и столкнуться с необходимостью переобучения при изменении задачи. Сроки поддержки у провайдера, ограничения на ответы учителя и лицензия ученика тоже могут ограничивать развёртывание.

Как выглядит простой способ дистилляции?

Для LLM возьмите учителя, использование которого разрешено, получите его ответы на репрезентативные входные данные, проверьте эти ответы и дообучите ученика с учителем на утверждённых парах. Затем проверьте его на отдельных реальных случаях. Это не то же самое, что простая дистилляция в лаборатории.

С чего начать на следующей неделе

На следующей неделе назначьте ответственного за одну повторяющуюся функцию. Поручите ему описать требования к ответу, собрать отложенную выборку из реальных запросов и сравнить текущего учителя с небольшой моделью с настроенным промптом. Если существенный разрыв в качестве сохраняется, подтвердите доступность и правомерность выбранного способа передачи знаний от учителя ученику и стройте обучающую выборку вокруг ошибок.

Если небольшая модель без дообучения уже проходит проверку, воспользуйтесь этим более простым решением. Если ни учитель, ни проверяющие не могут последовательно размечать сложные случаи, сначала уточните постановку задачи, а потом переходите к обучению.

Подпишитесь на рассылку, чтобы принимать практические решения о разработке и эксплуатации функций на базе ИИ.