Knowledge distillation: como levar um LLM menor à produção

Use a destilação de conhecimento (knowledge distillation) quando um modelo pequeno e especializado der conta de uma tarefa recorrente, e reserve o modelo de ponta para os casos que ele não consegue resolver. A disponibilidade de treinamento já pesa tanto quanto a escolha do modelo: clientes atuais da OpenAI elegíveis para fine-tuning perdem o acesso a novos trabalhos de treinamento em 6 de janeiro de 2027, ou antes, se o modelo base for desativado. Cronograma de disponibilidade da OpenAI

O melhor candidato é uma funcionalidade baseada em um grande modelo de linguagem (LLM) com requisitos estáveis: classificar uma solicitação, extrair determinados campos, escolher uma rota ou devolver exatamente o formato exigido. Comece testando um modelo menor sem treinamento adicional. A destilação passa a fazer sentido quando o modelo maior resolve casos importantes em que essa versão menor falha, e essa diferença pode virar exemplos de treinamento confiáveis.

Documentação dos provedores e termos de uso de saídas para treinamento verificados em 26 de outubro de 2026. As distinções a seguir se referem a APIs de produção e a licenças de modelos específicos; assinaturas de chatbots para consumidores ou outros contratos de hospedagem podem ter regras diferentes.

Como funciona a destilação de conhecimento (knowledge distillation)?

Um modelo professor de grande porte gera rótulos ou demonstrações, e um modelo aluno, menor, aprende a executar a tarefa a partir desses exemplos. Depois de treinado, o aluno pode responder às solicitações rotineiras sem consultar o professor a cada chamada. No fine-tuning supervisionado, um modelo existente é treinado com exemplos de entradas e saídas desejadas. Um fluxo gerenciado de destilação pode obter essas saídas do professor. Fluxo de destilação documentado

Pense em um instrutor de escalada ensinando uma via curta. O aprendiz pratica os movimentos necessários para aquela via; não adquire a capacidade do instrutor de escalar qualquer montanha. Em produção, o modelo aluno tem o mesmo limite: aprender a classificar pedidos de reembolso não o torna um substituto geral do professor.

Imagine, por exemplo, uma funcionalidade de suporte que classifica mensagens como billing, technical, cancellation ou needs_review. O professor lê mensagens representativas e sugere rótulos. Uma pessoa revisora resolve os casos ambíguos. O aluno é treinado com os pares aprovados de mensagem e rótulo e, depois, recebe mensagens inéditas cujas respostas foram verificadas de forma independente.

Essa última etapa é essencial porque concordar com o professor não é o mesmo que acertar. Se o professor costuma interpretar um pedido de cancelamento como uma dúvida sobre cobrança, copiá-lo com fidelidade mantém o erro.

Destilação de conhecimento em LLMs a partir de exemplos de saída

Para quem desenvolve aplicações, o ponto de partida prático costuma ser a destilação baseada em saídas: guardar as entradas e as respostas aceitáveis do professor e, então, treinar o aluno com esses pares. Esse fluxo documentado não exige acesso aos pesos do professor, os parâmetros numéricos aprendidos pelo modelo. Exige, porém, permissão para reutilizar as saídas e uma opção de treinamento do aluno compatível com a tarefa. Guia de fine-tuning supervisionado da OpenAI

A destilação vai além de copiar texto. A pesquisa que fundamenta a técnica também descreve a transferência de conhecimento de um ensemble, um conjunto de modelos, para um único modelo mais fácil de colocar em produção. Para uma funcionalidade de escopo restrito, porém, o que interessa é saber se o aluno aprende as decisões necessárias, e não se reproduz cada aspecto do professor. Destilação do conhecimento de uma rede neural

Essas abordagens podem ser combinadas. A quantização de LLMs pode vir depois do treinamento, seguida de uma nova avaliação. O artigo sobre RAG vs. fine-tuning explica por que aprender um padrão de resposta não substitui a busca de informações da empresa que mudam com o tempo.

Quando vale a pena destilar um modelo de IA?

A destilação de modelos (model distillation) se torna mais atraente quando a tarefa continua bem delimitada, as solicitações se repetem e colocar o aluno em operação melhora um requisito mensurável. Um volume alto ajuda a diluir o esforço de treinamento e revisão entre mais solicitações. Uma exigência de latência também pode justificar esse trabalho, mesmo quando o custo não é a principal preocupação.

Um serviço de processamento de documentos é um candidato plausível se extrai repetidamente os mesmos campos de famílias de documentos conhecidas. Já um assistente que precisa responder a perguntas de qualquer natureza, usar ferramentas desconhecidas e raciocinar sobre novos domínios tem um trabalho muito mais amplo. Reduzir esse assistente inteiro é um projeto mais difícil do que especializar seu classificador de intenções.

Para quem desenvolve: fixe os requisitos de entrada, saída e comportamento em caso de falha antes de coletar dados. Se uma fatura não tem número de pedido de compra, a extração correta pode ser null, em vez de um palpite que pareça plausível. Os exemplos de treinamento precisam ensinar essa diferença.

Para quem opera: compare o fluxo completo de atendimento. Inclua novas tentativas, falhas de validação, revisão humana, solicitações encaminhadas ao professor, avaliação contínua e retreinamento. Usar menos recursos na inferência só traz vantagem se essas obrigações não consumirem o ganho. Não existe um volume universal de tráfego a partir do qual a destilação compense.

Para quem contrata: confirme que o professor, o aluno, o método de treinamento e o local de implantação necessários estão disponíveis em conjunto. O fato de um provedor oferecer os dois modelos para inferência comum não comprova que seja possível destilar um no outro.

A privacidade pode motivar a adoção de um aluno menor e hospedado de forma adequada, mas tamanho reduzido não significa privacidade. Mapeie onde ficam as entradas brutas, as chamadas ao professor, os arquivos de treinamento, os logs e o modelo em operação. Executar o aluno localmente não desfaz o envio de dados sensíveis a um professor remoto durante a criação do conjunto de dados.

Espere se a definição da tarefa muda com frequência, os exemplos disponíveis não são representativos, os rótulos do professor não são confiáveis ou os direitos de treinamento ainda não estão resolvidos. Dispense o treinamento se um modelo menor sem ajuste já passar na avaliação. O Google observa explicitamente que os ganhos com destilação são menores quando o aluno já está próximo do professor na tarefa desejada. Orientações do Google sobre casos de uso de destilação

Quais opções gerenciadas estão disponíveis hoje?

Escolha uma opção gerenciada pelo suporte atual a treinamento e pelo ciclo de vida e, depois, confira os termos aplicáveis. A comparação a seguir reflete a documentação verificada em 26 de outubro de 2026.

Destilação na OpenAI: opção para clientes atuais, com data para acabar

O fluxo documentado da OpenAI consiste em melhorar o prompt do professor, capturar respostas que atendam aos critérios definidos, montar um conjunto de dados e fazer fine-tuning de um modelo menor. Essa ainda é uma descrição útil do mecanismo. Já não serve, porém, como recomendação geral para quem está começando: o guia atual informa que a plataforma de fine-tuning está indisponível para novos usuários. Fine-tuning supervisionado da OpenAI

Clientes ativos elegíveis só podem criar trabalhos de treinamento até 6 de janeiro de 2027, sujeitos à desativação antecipada de modelos. GPT-4.1 e GPT-4.1 mini, incluindo suas versões com fine-tuning, serão desativados em 14 de janeiro de 2027. A desativação documentada de GPT-4.1 nano e o4-mini ocorreu em 23 de outubro de 2026. Esses prazos dificultam justificar uma nova dependência de longo prazo, mesmo que a conta ainda tenha acesso. Descontinuações da OpenAI

Na prática, usuários atuais devem planejar a migração e preservar seus dados de avaliação. Um projeto novo deve escolher uma opção de treinamento disponível, em vez de se apoiar no lançamento histórico da destilação.

Google Vertex AI: ajuste do Gemini e destilação de modelos abertos são opções distintas

A documentação de modelos generativos do Google Vertex AI agora direciona para o Gemini Enterprise Agent Platform. O guia de ajuste do Gemini descreve o fine-tuning supervisionado, com treinamento a partir de exemplos rotulados, e lista modelos como Gemini 3.5 Flash e Gemini 3.5 Flash-Lite. O método é recomendado para classificação, análise de sentimento e extração de entidades. Visão geral atual de ajuste de modelos do Google

O Google documenta separadamente a destilação gerenciada de modelos abertos pelo GenAI SDK. A lista de professores inclui, por exemplo, DeepSeek R1 0528 e DeepSeek V3.2; entre os alunos estão Qwen 3 8B e Gemma 3 4B IT. O ajuste supervisionado de modelos abertos também oferece fine-tuning completo e LoRA, que atualiza menos parâmetros. Essa lista de modelos é diferente da lista de elegíveis para destilação. Documentação de ajuste de modelos abertos

O limite está na combinação de método, modelo e local. A inferência do professor precisa de cota, além da necessária para treinamento. O endpoint global escolhe uma região compatível, portanto exigências de residência de dados requerem uma configuração regional deliberada. Para classificação simples, teste o modelo menor antes de adotar a opção de destilação do Google, voltada a raciocínio.

Destilação no Amazon Bedrock: fluxo gerenciado com pares predefinidos

O Amazon Bedrock Model Distillation reúne geração de respostas pelo professor, síntese de dados e fine-tuning do aluno em um único fluxo. É possível fornecer prompts ou usar logs existentes de invocação de modelos, registros de solicitações e respostas anteriores, armazenados no Amazon Simple Storage Service (Amazon S3). O Bedrock também oferece fine-tuning supervisionado e por reforço como métodos separados de personalização. Fluxo de destilação, métodos de personalização

A tabela atual de pares inclui Amazon Nova Pro → Nova Lite ou Nova Micro em US East (N. Virginia) e Meta Llama 3.3 70B → Llama 3.1 8B entre as opções de Llama em US West (Oregon). A documentação afirma explicitamente que a destilação não está disponível no momento para modelos da Anthropic, sem previsão confirmada de retorno. Pares e regiões compatíveis

O guia de preparação de dados do Bedrock limita a entrada fornecida a 15K prompts ou pares de prompt e resposta. Esse é um limite por trabalho de treinamento, não uma indicação de que a tarefa precise dessa quantidade de exemplos. Selecione os dados pela cobertura das decisões reais e dos casos de falha. Limites de preparação do conjunto de dados

Essa é uma opção prática se o par desejado tiver suporte e os requisitos de implantação forem compatíveis. O serviço não permite combinar qualquer professor com qualquer aluno.

Ter direitos sobre as saídas não significa ter permissão para treinar

Confira o contrato do endpoint que gerou os dados antes de usar essas saídas para treinar outro modelo. A titularidade das saídas, o compromisso do provedor de não treinar com seus dados e o seu direito de treinar um aluno são disposições diferentes.

Os trechos abaixo são curtos de propósito. O escopo que os acompanha importa tanto quanto as palavras citadas; o uso concreto é regido pelo contrato assinado, pelo formulário de pedido e pelos termos aplicáveis ao produto.

OpenAI: restrição à concorrência com exceções específicas

O Services Agreement da OpenAI restringe o uso de saídas para desenvolver modelos que “concorram com os produtos e serviços da OpenAI”, salvo uma Exceção Permitida. Essa definição inclui modelos internos destinados principalmente a categorizar, classificar ou organizar dados, desde que não sejam distribuídos nem disponibilizados comercialmente a terceiros. Também inclui o fine-tuning ou a personalização de modelos fornecidos pelos serviços especificados da OpenAI. Services Agreement: restrição e definições

Isso cria uma diferença relevante entre um classificador interno e um modelo generativo de uso geral oferecido a clientes. Não presuma que toda funcionalidade de extração, classificador hospedado ou modelo privado de uso geral se enquadre na exceção; peça à pessoa responsável pelo contrato que confirme o uso concreto.

Há também uma distinção de datas. A OpenAI publicou uma atualização de política com vigência a partir de 20 de novembro de 2026, depois da data de verificação deste artigo. Ela trata do uso de modelos ou saídas para fornecer sinais de treinamento a alternativas ou substitutos, incluindo rótulos, feedback e filtragem, preservando os usos expressamente permitidos pelo contrato aplicável. Considere-a uma mudança futura, não uma regra já vigente na data da verificação. Atualização publicada das Usage Policies

Anthropic: treinar modelos concorrentes exige aprovação expressa

Os Commercial Terms da Anthropic proíbem acessar seus serviços para criar um produto ou serviço concorrente, inclusive para “treinar modelos de IA concorrentes”, salvo aprovação expressa. A cessão de direitos sobre as saídas, prevista separadamente, não elimina essa restrição. Commercial Terms da Anthropic, D.4

Por isso, as saídas do Claude precisam de uma análise contratual específica antes de virarem um conjunto de treinamento para outro modelo. Um anúncio antigo de destilação em nuvem não basta para comprovar disponibilidade ou permissão atuais.

Google: o Cloud e a API Gemini para desenvolvedores têm contratos distintos

As restrições de modelos do Google Cloud proíbem usar saídas do serviço para “substituir, trocar ou contornar o uso de um Modelo Google” ou “criar ou melhorar modelos semelhantes a um Modelo Google”. Há uma exceção explícita quando o serviço oferece fine-tuning ou destilação: suas saídas podem ser usadas para modificar e utilizar Modelos Google Modificados no lugar de Modelos Google Pré-treinados. Ofertas distintas têm termos próprios. Termos específicos dos serviços do Google Cloud

A API Gemini para desenvolvedores usa outra redação: não é permitido utilizar seus serviços para “desenvolver modelos que concorram com os Serviços”. Esses termos adicionais distinguem explicitamente o uso direto do Google Cloud Platform. Uma permissão concedida em um fluxo gerenciado do Cloud não deve ser estendida a um plano independente de geração de dados pela API Gemini. Termos adicionais da API Gemini

Amazon: a permissão do serviço é a exceção

Os Service Terms da AWS iniciam a restrição relevante com “Exceto quando permitido pelo Serviço de IA” e, fora dessa exceção, proíbem gerar conteúdo com “a finalidade expressa de treinar um modelo ou serviço de IA” ou desenvolver um substancialmente semelhante. O Bedrock também incorpora os termos aplicáveis aos modelos de terceiros. Service Terms da AWS: serviços de IA e Bedrock

Use o fluxo gerenciado documentado e seus pares elegíveis como a opção concreta a investigar. A existência desse fluxo não equivale a uma autorização geral para exportar as respostas de qualquer modelo do Bedrock para qualquer treinamento externo.

Meta Llama: atenção ao nome do modelo e às condições de redistribuição

A licença do Llama 3.3 da Meta trata explicitamente do treinamento de outro modelo com materiais ou saídas do Llama. Quando o modelo resultante é distribuído ou disponibilizado, ela exige Llama “no início do nome de qualquer um desses modelos de IA”. As exigências de licença, atribuição e demais condições aplicáveis também importam. Licença comunitária do Llama 3.3

Essa é a licença de um modelo específico, não uma regra universal para todos os modelos da Meta ou todos os endpoints hospedados. Registre a versão exata e os termos de hospedagem junto ao conjunto de dados.

Mistral AI: diferencie saídas de texto de restrições específicas a imagens

A restrição comercial atual da Mistral AI sobre saídas cita “saídas de imagem” usadas para “desenvolver ou treinar qualquer produto de geração de imagens que concorra”. A cláusula é específica para imagens; apresentá-la como uma proibição geral de treinamento com texto ampliaria seu alcance indevidamente. Os mesmos termos proíbem, em separado, o uso de saídas para fazer engenharia reversa dos produtos da Mistral AI, e podem existir termos adicionais do produto ou da implantação. Commercial Terms da Mistral AI

Para um conjunto de dados de LLM, analise o uso de texto à luz do contrato aplicável, sem transportar para ele uma restrição de imagens nem presumir permissão ilimitada.

Grok: treinamento com saídas empresariais exige exceção no formulário de pedido

Os termos empresariais do Grok em x.ai proíbem usar “qualquer Saída para treinar quaisquer modelos fundacionais, grandes modelos de linguagem ou outros sistemas de inteligência artificial”, salvo permissão expressa em um Formulário de Pedido. A página identifica o provedor contratante como SpaceXAI LLC, que utiliza o nome SpaceXSI. Termos empresariais do Grok: direitos sobre entradas e saídas

Essa redação é mais ampla do que uma restrição apenas a modelos concorrentes. Não presuma que um aluno interno esteja isento só porque permanece dentro da empresa.

DeepSeek-R1: permissão explícita de destilação para uma versão específica

O repositório oficial do DeepSeek-R1 informa que o código e os pesos usam a licença MIT e permite expressamente a “destilação para treinar outros LLMs”. Também identifica as licenças de origem de Qwen e Llama para as versões já destiladas. Seção de licença do DeepSeek-R1

É uma permissão útil, vinculada a uma versão específica. Ela não estabelece os termos de todos os futuros modelos DeepSeek, serviços de hospedagem ou modelos base do aluno. Mantenha tanto a permissão do professor quanto a licença do aluno no registro de lançamento.

Avalie antes de direcionar o tráfego de produção ao aluno

O aluno está pronto quando atende aos critérios de aceitação da funcionalidade em entradas inéditas semelhantes às de produção e passa por uma implantação controlada. A queda da perda de treinamento, o erro medido durante o treinamento, não comprova nenhuma dessas condições.

O procedimento a seguir é uma proposta de lançamento, não um relato de resultados de benchmark.

1. 1

   Fixe a tarefa e os modelos de referência

   Registre o contrato de entrada, os valores de saída permitidos, os campos obrigatórios e o comportamento esperado quando o modelo deve se abster de responder. Guarde os resultados do professor atual e de um modelo pequeno orientado por prompt em uma amostra representativa. Defina a qualidade e a latência aceitáveis antes de examinar a pontuação do aluno treinado.

2. 2

   Separe treinamento, validação e teste final

   Use os dados de treinamento para atualizar os pesos e os de validação para escolher prompts ou checkpoints. Mantenha um conjunto de teste final intocado até concluir essas escolhas. Agrupe conversas relacionadas de clientes, modelos de documentos e exemplos quase duplicados para impedir que cópias vazem entre as divisões. Inclua tráfego real recente, classes raras e exemplos difíceis.

3. 3

   Faça a curadoria das demonstrações do professor

   Peça ao professor autorizado que rotule as entradas de treinamento. Valide o formato, revise ambiguidades e corrija erros importantes. Preserve exemplos em que a resposta certa seja uma abstenção ou um valor ausente. Registre o modelo professor, o prompt, as permissões das fontes e a versão do conjunto de dados. O guia de geração de dados sintéticos aprofunda essa camada de dados.

4. 4

   Meça o resultado da tarefa, não a semelhança com o professor

   Na classificação, meça os erros por classe, especialmente a revocação nos casos em que deixar de identificar algo custa caro: quantos pedidos reais de cancelamento foram reconhecidos? Na extração, confira os valores exatos dos campos exigidos e o tratamento dos campos ausentes. Na geração em formato fixo, verifique a validade do esquema, ou seja, se a saída segue a estrutura exigida, separadamente da correção factual. No roteamento, meça se o caminho escolhido para as etapas seguintes resolve a solicitação. Audite as divergências entre professor e aluno usando respostas verificadas de forma independente.

5. 5

   Teste com tráfego espelhado e depois faça uma implantação canário

   No modo sombra, copie as entradas reais para o aluno enquanto o sistema existente continua fornecendo o resultado apresentado ao usuário. Meça a qualidade das respostas, as solicitações lentas, os tempos limite e a necessidade de encaminhamento sob carga real. Se o aluno passar, uma implantação canário expõe apenas uma parcela controlada do tráfego a ele, com condições explícitas de interrupção e um mecanismo funcional de reversão.

6. 6

   Mantenha uma alternativa e monitore mudanças nos dados

   Encaminhe entradas não cobertas, falhas de validação e casos definidos como de alto risco de volta ao professor ou para revisão humana. Monitore mudanças na composição das entradas, nos erros por classe e na proporção de solicitações que precisam de fallback. Reavalie após alterações em prompts, esquemas, checkpoints do aluno, quantização ou dados recebidos das etapas anteriores. O uso frequente do fallback indica que o desenho da solução precisa ser revisto.

Um critério prático para liberar uma funcionalidade de extração poderia exigir que o aluno preservasse a acurácia dos campos obrigatórios em cada família importante de documentos, respeitasse a meta de latência do serviço existente e se abstivesse corretamente quando faltassem informações. A pessoa responsável define os limites com base nas consequências dos erros; um benchmark geral de fornecedor não pode defini-los por você.

Use o guia de roteamento de modelos para definir a divisão entre o tráfego do aluno e o fallback para o modelo de ponta. Não dependa apenas da confiança declarada pelo próprio aluno. Regras de elegibilidade das entradas, validação das saídas e padrões de falha medidos dão ao roteador critérios concretos para agir.

O que é exagero nas promessas sobre destilação?

“O modelo pequeno se torna o modelo grande.” Ele aprende com a supervisão e a cobertura que você oferece. Acertar padrões conhecidos de extração diz pouco sobre o desempenho em um idioma desconhecido, uma nova família de documentos ou uma tarefa de raciocínio mais ampla.

“Dados gerados eliminam o problema de rotulagem.” Eles transferem parte do trabalho de criar rótulos para a verificação desses rótulos. Um professor pode gerar uma grande coleção de exemplos consistentemente errados. A resolução humana dos casos duvidosos e respostas de teste verificadas de forma independente continuam sendo valiosas.

“Um modelo menor garante economia.” A funcionalidade em produção inclui fallback, revisão, hospedagem, monitoramento e retreinamento. Avalie o resultado completo e trate as melhorias de latência como algo a medir, não como promessas associadas ao tamanho do modelo.

“A destilação gerenciada resolve a questão dos direitos.” Ela oferece um fluxo documentado com limites específicos. Não transforma todas as saídas de modelos em material de treinamento sem restrições.

“Se o JSON é válido, a funcionalidade funciona.” Um ID de conta errado continua errado mesmo com formatação perfeita. A verificação de formato é um dos critérios de liberação, não a avaliação inteira.

Perguntas frequentes sobre destilação de modelos

A destilação de modelos realmente funciona?

Ela pode transferir do professor para o aluno comportamentos úteis para uma tarefa. A evidência que importa para a sua funcionalidade é o desempenho em entradas inéditas, verificadas de forma independente, seguido de uma implantação controlada em produção. Isso não garante capacidade geral equivalente à do professor.

Qual é a diferença entre destilação de modelos e fine-tuning?

Destilação descreve o aprendizado a partir da supervisão de outro modelo. Fine-tuning descreve a atualização de um modelo já treinado com dados de uma tarefa. Quando as respostas do professor viram exemplos supervisionados para o aluno, o mesmo trabalho é tanto destilação quanto fine-tuning.

Como fazer a destilação de um LLM?

Defina uma tarefa bem delimitada, confirme os direitos sobre as saídas do professor e o modelo aluno, faça a curadoria de demonstrações representativas do professor, treine por uma opção com suporte e compare o aluno com o professor e com um modelo pequeno sem ajuste. Use uma avaliação com dados reservados, tráfego espelhado e uma implantação canário antes de ampliar a mudança.

O que é um modelo destilado?

É um modelo treinado com a supervisão de outro modelo, muitas vezes para tornar um modelo menor eficaz em uma tarefa específica. Sua capacidade continua dependendo do aluno, dos dados de treinamento e do que é avaliado.

O que é destilação de modelos?

A destilação de modelos transfere comportamentos aprendidos de um modelo professor para um aluno por meio de treinamento. Em um fluxo comum com LLMs, o professor gera rótulos ou respostas e o aluno aprende com pares aprovados de entrada e saída.

Quais são os quatro tipos de destilação?

Não existe uma classificação universal de quatro tipos para a destilação de LLMs. Listas com essa formulação costumam tratar da separação de líquidos, outro sentido de destilação. Para uma funcionalidade com LLM, identifique a supervisão e o método de treinamento efetivamente usados, em vez de escolher a partir de uma classificação da química.

Quais são 5 exemplos de destilação?

Em aplicações com LLMs, alguns exemplos de tarefas candidatas são roteamento de chamados de suporte, rotulagem de intenções, extração de campos de faturas, normalização de registros e geração de respostas em formato fixo. São possibilidades a avaliar, não afirmações de que um modelo destilado terá sucesso automático nas cinco.

Quais são as desvantagens da destilação?

Você pode herdar erros do professor, deixar de cobrir entradas raras, gastar muito com revisão de dados e precisar retreinar conforme a tarefa muda. O ciclo de vida do provedor, as restrições sobre as saídas do professor e a licença do aluno também podem limitar a implantação.

Qual é uma técnica simples de destilação?

Para LLMs, use um professor autorizado para gerar respostas a entradas representativas, revise essas respostas e faça fine-tuning supervisionado de um aluno com os pares aprovados. Teste-o em casos reais separados. Isso é diferente do significado de destilação simples em laboratório.

Qual é o próximo passo do projeto?

Na próxima semana, escolha a pessoa responsável por uma funcionalidade recorrente. Peça que ela escreva o contrato de saída, reúna uma amostra reservada de solicitações reais e compare o professor atual com um modelo pequeno orientado por prompt. Se ainda houver uma diferença relevante de qualidade, confirme uma opção disponível e autorizada de treinamento do professor para o aluno e monte o conjunto de treinamento em torno das falhas.

Se o modelo menor de referência já passar, aproveite esse ganho mais simples. Se nem o professor nem a equipe revisora conseguirem rotular os casos difíceis de forma consistente, resolva a definição da tarefa antes de treinar.

Assine a newsletter para tomar decisões práticas sobre o desenvolvimento e a operação de funcionalidades de IA.