Small language models: quando escolher SLM ou LLM

Escolha small language models (SLMs), ou modelos de linguagem pequenos, para etapas bem delimitadas cujo resultado você consegue verificar. Para tarefas ambíguas, com várias etapas, prefira um modelo de linguagem grande de fronteira. A decisão entre LLM e SLM começa pela tarefa: o Microsoft Phi-4-mini-instruct tem 3.8 bilhões de parâmetros, mas esse tamanho, por si só, não diz se ele atende ao nível de qualidade exigido pela funcionalidade. Em fluxos que combinam diferentes tipos de trabalho, faça a escolha entre SLM e LLM a cada etapa.

Small language models ou LLMs: qual escolher?

Se você está desenvolvendo uma funcionalidade de classificação, extração ou reescrita curta, comece com um modelo pequeno. Delimite a entrada, especifique as saídas permitidas e compare os erros com a solução que serve de referência hoje. Classificar um chamado de suporte é um ponto de partida melhor do que entregar a um agente a responsabilidade de resolver qualquer disputa com clientes.

Para investigação, planejamento ou escrita com escopo aberto, comece com um modelo de fronteira. O termo se refere aos modelos de uso geral mais capazes de cada fornecedor. Defina o que caracteriza uma boa resposta antes de tentar reproduzi-la com um modelo menor.

Se a funcionalidade precisa operar offline ou manter os dados em um ambiente privado, comece pelos limites de implantação. Uma API eficiente na nuvem não atende à exigência de execução no dispositivo. Um modelo pequeno disponível para download só resolve o problema se a aplicação, as ferramentas e os logs também mantiverem os dados no lugar certo.

Estas são recomendações iniciais, não resultados de um teste comparativo entre modelos. Páginas dos fornecedores verificadas em 26 de outubro de 2026. A comparação considera capacidades documentadas, restrições de implantação e critérios de aceitação específicos de cada tarefa; não foram realizados testes de desempenho de modelos para este artigo.

O que significa “pequeno” na prática?

“Pequeno” descreve a escala relativa do modelo, não um tipo diferente de inteligência. Um parâmetro é um peso numérico aprendido; B significa bilhão. A definição é flexível a ponto de a Meta chamar seus modelos Llama 3.2 de 1B e 3B de modelos de linguagem grandes.

Um modelo pequeno pode ter recebido um treinamento abrangente. Ele não passa a conhecer sua política de reembolso só porque ocupa pouco espaço. Você delimita a tarefa por meio de instruções, evidências fornecidas, saídas permitidas e, quando houver justificativa, treinamento adicional.

Modelos SLM: como interpretar as indicações de tamanho

Separe três perguntas: quantos pesos existem, quanto processamento ocorre a cada token e onde o modelo é executado. Um token é um trecho de texto processado pelo modelo.

A nomenclatura do Gemma, do Google, ajuda a visualizar essa diferença. E2B e E4B indicam parâmetros efetivos; os pesos adicionais de embeddings também precisam de memória. 26B A4B identifica um modelo de mistura de especialistas, que seleciona parte da rede para cada token: segundo o Google, ele ativa 4 bilhões de parâmetros, mas carrega todos os 26 bilhões para acelerar a inferência. Portanto, seu consumo de memória não corresponde ao de um modelo de 4B. As orientações de memória do Google explicam a distinção.

A quantização, que armazena os pesos com menor precisão numérica, pode reduzir o consumo de recursos. Ela não elimina a memória necessária para o contexto nem o software de apoio. O cache KV guarda informações intermediárias de contexto durante a geração; solicitações e respostas mais longas podem aumentar seu tamanho. Planeje a partir dos requisitos do checkpoint e do ambiente de execução que você vai usar e, depois, faça medições no dispositivo de destino.

Uma opção de API descrita como rápida ou eficiente responde a outra pergunta. Ela pode melhorar o tempo de resposta e reduzir a conta de operação sem revelar o número de parâmetros nem oferecer pesos para download.

Exemplos de SLMs: famílias atuais para avaliar

Considere os checkpoints identificados pelos fornecedores abaixo como candidatos para uma tarefa específica. O nome da família, sozinho, não informa os tipos de entrada aceitos, os requisitos de memória nem a confiabilidade.

Microsoft Phi: tarefas de texto delimitadas, com limites de conhecimento

O Microsoft Phi-4-mini-instruct é um modelo de texto aberto com 3.8B de parâmetros e janela de contexto de 128K tokens. Sua ficha documenta o seguimento de instruções, um formato de chamada de funções e a execução local. É um candidato para extrair campos de um texto fornecido ou reescrever uma resposta curta no formato exigido. Ficha do modelo da Microsoft.

Sua principal limitação é a capacidade de reter conhecimento factual: a Microsoft alerta que o modelo não consegue armazenar grandes volumes desse conhecimento e pode gerar informações incorretas. Forneça a política relevante a um assistente de suporte, em vez de esperar que os pesos contenham as regras do seu negócio.

O Phi-4-mini-reasoning, da mesma família, também tem 3.8B, mas a Microsoft informa que ele foi desenvolvido e testado para raciocínio matemático. A especialização em matemática não comprova que o modelo possa assumir um agente de atendimento ao cliente com escopo aberto. Ficha do Phi-4-mini-reasoning.

Google Gemma: opções para dispositivos móveis com tamanho bem definido

O Google Gemma 4 inclui E2B e E4B, seus modelos de 2B e 4B de parâmetros efetivos para dispositivos móveis e computação na borda. Para esses tamanhos, o Google documenta entradas de texto, imagem e áudio nativo, janela de contexto de 128K, raciocínio configurável e chamada de funções. Comece por eles quando a funcionalidade precisar de entrada multimodal local, ou seja, de algo além de texto. Visão geral do Gemma 4.

Ainda é preciso verificar a viabilidade da implantação: a contagem efetiva não equivale ao total de pesos, e usar toda a janela de contexto exige memória adicional. Um modelo compatível com celulares também precisa de um ambiente de execução compatível e de desempenho sustentado aceitável no aparelho real.

Alibaba Qwen: vários tamanhos, com um alerta sobre o menor modelo

O Alibaba Qwen3.5 oferece checkpoints pequenos identificados como 0.8B, 2B, 4B e 9B na coleção do fornecedor. A ficha do Qwen3.5-4B informa 4B para o componente de linguagem e inclui, separadamente, um codificador visual. Dimensione os recursos para o pacote completo, não apenas para o sufixo.

O Qwen3.5-4B documenta entradas de texto, imagem e vídeo, além de um contexto nativo de 262,144 tokens. Isso o torna um candidato a avaliar em funcionalidades que trabalham com documentos, mas a janela é uma especificação de capacidade, não uma comprovação de raciocínio confiável ao longo de um documento extenso.

O alerta mais importante diz respeito ao Qwen3.5-0.8B. O fornecedor o posiciona para prototipagem, ajuste fino voltado a tarefas específicas e pesquisa ou desenvolvimento, e avisa que ativar o raciocínio aumenta a propensão a loops que podem impedir o término da geração. Não o coloque em um ciclo de raciocínio sem supervisão antes de testar o encerramento e impor limites. Alerta da Qwen.

Meta Llama: modelos pequenos de texto com limites de modalidade

O Meta Llama 3.2 oferece modelos de 1B e 3B com entrada e saída de texto. A Meta descreve usos com ajuste para instruções que incluem diálogo, recuperação de informações, resumo e assistência à escrita em dispositivos móveis. São candidatos para funcionalidades locais de texto quando a aplicação não precisa analisar imagens. Ficha do modelo da Meta.

Esses checkpoints pequenos trabalham apenas com texto. Eles também seguem a Llama 3.2 Community License e a Acceptable Use Policy da Meta, portanto verifique o licenciamento separadamente antes da implantação.

Para uma seleção organizada de acordo com sua máquina, veja os melhores LLMs locais de 2026. Aqui, a decisão é sobre o papel que o modelo deve cumprir.

Opções eficientes de API merecem uma seleção à parte

Modelos eficientes hospedados são os candidatos mais simples quando a prioridade é reduzir o trabalho com infraestrutura. As páginas abaixo não publicam contagens de parâmetros; por isso, chamar todas essas opções de SLMs atribuiria a elas um tamanho que essas fontes não comprovam.

OpenAI: GPT-6 Luna para tarefas de escopo definido

O OpenAI GPT-6 Luna é voltado a tarefas específicas em alto volume. As orientações de escolha de modelos da OpenAI associam o Luna a tarefas de escopo definido e triagem, enquanto posicionam o GPT-6 Astra para problemas ambíguos e análises aprofundadas. É uma comparação útil entre etapas delimitadas e etapas que exigem um modelo de fronteira, sem inventar a contagem de pesos de nenhum deles.

O Luna tem uma restrição de ferramentas específica de endpoint: sua página de modelo informa que a chamada de funções em Chat Completions exige reasoning_effort definido como none; a Responses API aceita ferramentas integradas e chamada de funções. Confira o contrato do endpoint antes de substituir o modelo de um agente.

Anthropic: Claude Haiku 5.5 para etapas repetitivas de agentes

A documentação do Anthropic Claude Haiku 5.5 o apresenta para classificação, extração, roteamento e trabalho de subagentes, com raciocínio adaptativo e janela de contexto de 1M de tokens. É um candidato para as partes repetitivas e bem delimitadas de um agente maior. Documentação do Haiku 5.5.

Verifique a compatibilidade das requisições antes de migrar: a Anthropic orienta omitir temperature, top_p e top_k. Uma camada compartilhada de integração com APIs precisa considerar as configurações específicas de cada modelo. A janela de contexto grande também não torna toda tarefa com contexto extenso adequada a uma opção menor.

Google: Gemini 3.5 Flash-Lite para receber conteúdo multimodal

A documentação do Google Gemini 3.5 Flash-Lite o apresenta para tarefas de subagentes com alta vazão e análise de documentos. Ele aceita texto, imagens, vídeo, áudio e PDFs, retorna texto e oferece saídas estruturadas e chamada de funções. É um candidato para converter material recebido em um registro de escopo definido. Documentação do Gemini 3.5 Flash-Lite.

Em funcionalidades de voz, diferencie entrada de interação: aceitar áudio não significa gerar áudio, e esse modelo não é compatível com a Live API. Um analisador de documentos e uma conversa por voz em tempo real têm requisitos diferentes.

SLM vs LLM na prática: decida pela tarefa

Escolha o primeiro modelo a partir da saída que você precisa verificar. As recomendações abaixo pressupõem que o checkpoint escolhido seja compatível com a entrada e com o ambiente de implantação.

A regra que muda a escolha: mantenha o candidato menor somente se ele atender ao mesmo critério de aceitação e melhorar o aspecto que você quer otimizar. Se precisar de correções frequentes, a chamada barata não terá produzido um resultado barato.

Em quais tarefas cada classe de modelo leva vantagem?

Tarefas delimitadas, latência e custo por chamada: modelos pequenos

Modelos pequenos merecem ser avaliados primeiro em tarefas repetitivas e bem delimitadas. Um classificador ou extrator de escopo reduzido oferece uma saída clara para avaliar e poucos motivos para pagar por raciocínio amplo a cada solicitação.

Mas o tamanho do modelo não é uma medida de latência. A execução local elimina a ida e volta até um serviço remoto de inferência; ainda assim, um dispositivo sobrecarregado pode terminar depois de um modelo hospedado. Meça o tempo até obter um resultado aceito, incluindo o processamento da entrada, a geração, a validação e as novas tentativas.

Da mesma forma, compare o custo por resultado aceito. Uma cascata com modelo pequeno paga pela chamada inicial e pelas verificações, e também pela chamada ao modelo maior sempre que precisa encaminhar a tarefa. Hospedar por conta própria acrescenta hardware, capacidade ociosa e operação. Mantenha o caminho com modelo pequeno quando as medições mostrarem aumento na vazão de resultados aceitos; envie tarefas claramente difíceis direto ao modelo mais capaz.

Execução no dispositivo e implantação privada: modelos pequenos locais

Modelos pequenos locais levam vantagem quando a funcionalidade precisa operar sem um serviço remoto de inferência. Pense em um profissional de campo classificando anotações sem conexão ou em uma funcionalidade de desktop cujos documentos de origem precisam permanecer na máquina.

A privacidade depende do caminho de execução, não do adjetivo “pequeno”. Inspecione a telemetria, os logs, os serviços de recuperação de informações, as ferramentas e os destinos usados como alternativa. Uma tentativa local seguida de uma nova tentativa automática na nuvem cruza o mesmo limite de uma chamada direta à nuvem. O guia de IA no dispositivo aborda essa decisão no nível do aparelho.

Raciocínio com várias etapas: modelos de fronteira

Modelos de fronteira são um ponto de partida mais forte para planos desconhecidos e exceções ambíguas. Uma disputa sobre reembolso pode exigir conciliar um registro de envio, uma exceção à política e um acordo anterior com o cliente. Extrair cada campo corretamente é apenas parte da resolução do caso.

Modelos pequenos de raciocínio são um contraponto real à ideia de que “modelo pequeno não raciocina”. A pergunta relevante é se a especialização corresponde à etapa. A avaliação do Phi voltada à matemática não comprova confiabilidade geral como agente. Use um modelo pequeno em um subproblema que possa ser verificado de forma independente; mantenha o modelo de fronteira quando a interpretação de evidências conflitantes determinar o resultado.

Síntese de contexto extenso: modelos de fronteira, até prova em contrário

Para conciliar evidências ao longo de um caso extenso, comece com o modelo de fronteira; para localizar um campo em um trecho fornecido, avalie primeiro um modelo pequeno. As duas tarefas consomem contexto, mas exigem tipos diferentes de raciocínio.

A janela de 262,144 tokens do Qwen3.5-4B e a de 1M de tokens do Haiku 5.5 derrubam a regra genérica de que modelos pequenos ou opções eficientes sempre têm contexto curto. Elas não comprovam que qualquer um dos dois conectará corretamente todos os trechos relevantes. Ficha do modelo Qwen, documentação do Haiku.

Teste cláusulas conflitantes, uma correção perto do fim e uma resposta que exija evidências de seções diferentes. Um modelo que apenas aceita a entrada ainda não passou nesse teste. A recuperação de informações, que seleciona evidências relevantes antes da geração, pode reduzir a carga de trabalho em modelos de qualquer tamanho.

Escrita de escopo aberto: modelos de fronteira

Modelos de fronteira devem receber a tarefa inicial quando a qualidade depende de julgamento, tom de voz e estrutura consistente ao longo do texto. As orientações de escolha da OpenAI distinguem explicitamente edições de escopo definido de escrita com nuances e entregas exigentes. Orientações para escolher modelos.

Reescrever um texto curto em um formato aprovado é uma ótima tarefa para um modelo pequeno. Elaborar uma narrativa de estratégia de produto com evidências incompletas é outro trabalho. Avalie as duas saídas considerando os fatos obrigatórios, as ressalvas, o público e o tom de voz; extensão e fluência, sozinhas, não comprovam qualidade. Nenhuma das classes de modelo garante precisão factual nem ausência de vieses.

Como alternar entre os dois em uma mesma funcionalidade

Defina o roteamento pelo contrato de cada etapa antes de acrescentar um modelo que decida tudo. Um roteador escolhe qual modelo atende a uma solicitação; uma cascata tenta primeiro um caminho mais barato e encaminha a tarefa a outra opção quando as verificações falham. O guia de roteamento de modelos aprofunda essas arquiteturas.

Considere um assistente de suporte hipotético. O cliente diz: “Minha encomenda chegou danificada e quero o reembolso do frete.” A funcionalidade precisa classificar o problema, consultar o pedido, interpretar a política e propor uma resposta. Essas tarefas não exigem a mesma capacidade do modelo.

1. 1

   Aplique primeiro os limites de uso dos dados

   Leia a política de contas da aplicação e os destinos permitidos antes de enviar o chamado a qualquer modelo. Se o processamento remoto for proibido, restrinja todos os caminhos a serviços locais autorizados ou a uma fila de atendimento humano. A dificuldade da tarefa não pode se sobrepor silenciosamente a essa regra.

2. 2

   Dê ao modelo pequeno uma tarefa de extração bem delimitada

   Peça a categoria do problema, uma referência ao pedido, se houver, e o trecho exato do chamado que sustenta a extração. Deixe ausente o que não foi informado. O código da aplicação verifica as categorias permitidas, os campos obrigatórios, as citações da fonte e a existência da referência ao pedido. Essas verificações detectam falhas específicas; não comprovam que toda a interpretação esteja correta.

3. 3

   Encaminhe as ambiguidades junto com as evidências originais

   Direcione interpretações controversas da política, solicitações com intenções combinadas e falhas nas verificações a um modelo de fronteira autorizado ou a uma pessoa. Inclua o chamado original, a política recuperada e a verificação que falhou, não apenas o resumo do modelo pequeno. A confiança declarada pelo próprio modelo não substitui um sinal de roteamento respaldado por avaliações.

4. 4

   Mantenha a autorização para agir fora da geração

   Deixe o modelo propor uma resposta ou uma chamada de ferramenta. O código da aplicação impõe as permissões da conta, as ações permitidas e qualquer aprovação humana necessária. Uma resposta que parece correta não é autorização para emitir um reembolso.

Registre por que cada solicitação foi encaminhada, se a resposta final foi aprovada e quanto tempo a operação inteira levou. Revise também uma amostra das saídas aceitas do modelo pequeno: os validadores deixam passar erros plausíveis. Se uma categoria de tarefa quase sempre precisar de encaminhamento, envie-a diretamente ao modelo de fronteira.

É por isso que combinar as duas classes faz sentido em cargas de trabalho mistas em produção: uma mesma funcionalidade reúne etapas baratas e verificáveis e decisões difíceis. O roteamento permite que cada etapa atenda aos próprios requisitos de qualidade e tempo de resposta.

SLM vs LLM: o que custa trocar de modelo?

Troque o modelo de uma etapa antes de mudar a funcionalidade inteira. Preserve as entradas, o esquema de saída, as referências às evidências e o comportamento em caso de falha; depois, adapte os prompts e as configurações da API ao novo modelo. Manter a mesma interface HTTP não garante as mesmas chamadas de ferramentas nem as mesmas respostas.

Migrar para pesos locais também transfere para você a responsabilidade pela disponibilização do modelo, gestão de memória, atualização de versões e planejamento de capacidade. Trocar entre modelos hospedados pode alterar os parâmetros das requisições e as ferramentas disponíveis. Mantenha um adaptador para essas diferenças e registre o checkpoint ou a versão exata do modelo usado na avaliação.

Não troque se o modelo atual já atende ao requisito e você não tem uma razão mensurada de latência, custo operacional ou localização dos dados para migrar. Um modelo minúsculo, por si só, não é uma conquista de arquitetura.

Se uma tarefa estável e bem delimitada ainda precisar de um comportamento melhor, considere a destilação de modelos, que treina um aluno a partir dos exemplos de um professor, depois de verificar se esse caminho de treinamento é permitido. Comece pelos prompts e pelas evidências fornecidas; alterar os pesos do modelo exige um compromisso maior do que mudar o roteamento.

Perguntas frequentes

O ChatGPT é um LLM ou um SLM?

O ChatGPT é uma aplicação baseada em modelos de linguagem, não um modelo com tamanho fixo em parâmetros. A documentação de chat-latest da OpenAI distingue o modelo usado na aplicação de uma versão fixa de modelo. Compare o modelo por trás da aplicação, não o nome do aplicativo.

O DeepSeek é um SLM ou um LLM?

É preciso especificar o checkpoint. Como exemplo histórico concreto, o DeepSeek-R1 tem 671B de parâmetros totais, enquanto o DeepSeek-R1-Distill-Qwen-1.5B é um modelo destilado muito menor. Ambos aparecem na ficha do modelo R1 da DeepSeek; a marca, sozinha, não define o tamanho.

Devo usar um LLM ou um SLM?

Comece com um modelo pequeno para uma tarefa delimitada e verificável. Comece com um modelo de fronteira para raciocínio em situações desconhecidas, evidências conflitantes ou escrita de escopo aberto. Uma exigência rígida de execução local limita os modelos elegíveis antes mesmo da comparação de qualidade.

O que é um SLM em IA?

SLM significa small language model, ou modelo de linguagem pequeno: uma classificação relativa para um modelo de linguagem que exige menos recursos computacionais. Isso não significa automaticamente que ele seja especializado, privado, offline ou preciso.

Qual é a diferença entre SLM e LLM?

A principal diferença é a escala relativa, com consequências para a implantação e a capacidade. Não existe um limite universal de parâmetros, e as classificações se sobrepõem: a Meta chama seus checkpoints pequenos do Llama 3.2 de LLMs. Avalie o modelo exato e a tarefa.

Quais são os quatro tipos de LLM?

Não existe uma classificação universal única em quatro tipos. Arquitetura, método de treinamento, modalidades de entrada e escala de parâmetros são formas diferentes de descrever um modelo. Uma lista baseada em um desses critérios não determina se outro modelo é pequeno o suficiente para seu dispositivo.

Quais são os 5 melhores modelos LLM?

Um ranking fixo dos cinco melhores esconderia a tarefa e as restrições de implantação. Para esta decisão, selecione um modelo de referência capaz e um candidato eficiente com as entradas e ferramentas necessárias; depois, compare-os em tarefas representativas. Um ranking geral não determina o vencedor para sua funcionalidade.

Qual é a diferença entre LLM e GPT?

LLM é a categoria mais ampla. GPT, sigla de Generative Pre-trained Transformer, identifica uma família de modelos da OpenAI dentro dela. O glossário de modelos de linguagem do Google explica os termos.

Quais são os 5 principais modelos de IA?

Não existe uma lista universal de cinco modelos. A expressão pode se referir a métodos de aprendizado, arquiteturas ou famílias comerciais de modelos. Para uma funcionalidade de linguagem, especifique a entrada, a saída, os limites de implantação e o requisito de qualidade antes de escolher modelos pelo nome.

O que significa SLM vs LLM?

É a mesma comparação entre modelos pequenos e grandes, apenas na ordem inversa. Escolha o candidato mais leve que passe nos critérios da tarefa, mantendo um caminho para um modelo mais capaz ou para atendimento humano quando o trabalho ultrapassar o escopo aprovado.

LLM vs SLM vs MLM: qual é a diferença?

MLM é uma sigla ambígua: pode significar masked language model, ou modelo de linguagem mascarada, que prevê trechos ocultos de texto, ou ser usada informalmente para multimodal language model, ou modelo de linguagem multimodal. Nenhum dos sentidos define uma terceira faixa de tamanho em parâmetros entre pequeno e grande. O glossário do Google distingue a modelagem mascarada das entradas multimodais.

LLM vs SLM vs RAG: como se relacionam?

A geração aumentada por recuperação, ou RAG, fornece evidências recuperadas a um modelo gerador. Ela funciona tanto com modelos de linguagem pequenos quanto grandes. Pode suprir informações ausentes, mas não garante que o modelo interprete as evidências corretamente.

O próximo passo no desenvolvimento

Escolha uma etapa repetitiva na próxima semana e escreva suas regras de aceitação antes de comparar modelos. Use exemplos reservados para avaliação, ou seja, casos que não foram usados para ajustar o prompt, e inclua solicitações rotineiras, casos ambíguos, evidências ausentes e entradas fora de escopo.

Execute o candidato pequeno ao lado da solução atual de referência, sem permitir que ele altere registros em produção. Compare acertos, saídas rejeitadas, exceções não detectadas, latência de ponta a ponta e esforço operacional. Coloque em produção apenas as categorias aprovadas; preserve o caminho alternativo e continue verificando o trabalho aceito.

Use o checklist de auditoria de fluxos de trabalho empresariais com IA para escolher a primeira etapa que vale a pena otimizar.