Small language models e LLM: come scegliere per ogni funzione

Per un passaggio circoscritto e verificabile, scegli gli small language models; per attività ambigue e articolate in più fasi, scegli un modello linguistico di grandi dimensioni di frontiera. Nel confronto LLM vs SLM, si parte dal compito: Microsoft Phi-4-mini-instruct ha 3.8 miliardi di parametri, ma le dimensioni, da sole, non dicono se raggiungerà il livello di qualità richiesto dalla tua funzionalità. Nei flussi di lavoro misti, valuta la scelta tra SLM e LLM per ogni singolo passaggio.

Small language models o LLM: quale scegliere?

Se stai sviluppando una funzionalità di classificazione, estrazione o breve riscrittura, parti da un modello piccolo. Forniscigli un input ben delimitato, specifica gli output ammessi e confronta i suoi errori con quelli della soluzione attuale. Assegnare un'etichetta a un ticket di assistenza è un punto di partenza migliore che affidargli un agente incaricato di risolvere ogni controversia con i clienti.

Se stai sviluppando una funzionalità di indagine, pianificazione o scrittura a tema aperto, parti da un modello di frontiera. Con «di frontiera» si intendono i modelli generalisti più capaci del produttore. Definisci prima le caratteristiche di un buon risultato, poi prova a ottenerlo con un modello più piccolo.

Se la funzionalità deve operare offline o mantenere riservati i dati, parti dai vincoli di esecuzione. Un'API cloud efficiente non può soddisfare il requisito di esecuzione sul dispositivo. Un modello piccolo scaricabile è utile solo se anche l'applicazione, gli strumenti e i log mantengono i dati dove devono restare.

Queste sono indicazioni da cui partire, non risultati di un confronto sperimentale tra modelli. Pagine dei produttori verificate il 26 ottobre 2026. Il confronto si basa su capacità documentate, vincoli di esecuzione e criteri di accettazione specifici per il compito; per questo articolo non sono stati eseguiti test sulle prestazioni dei modelli.

Che cosa significa «piccolo» nella pratica?

«Piccolo» descrive la scala relativa del modello, non una diversa forma di intelligenza. Un parametro è un peso numerico appreso durante l'addestramento; B indica i miliardi. Il confine è abbastanza sfumato da consentire a Meta di definire large language models i suoi Llama 3.2 da 1B e 3B.

Un modello piccolo può avere un addestramento generalista. Il fatto che occupi poche risorse non significa che conosca già la tua politica sui rimborsi. Sei tu a circoscrivere il compito attraverso istruzioni, informazioni di riferimento, output ammessi e, quando è giustificato, ulteriore addestramento.

Modelli SLM: come leggere le indicazioni sulle dimensioni

Tieni separate tre domande: quanti pesi esistono, quanto calcolo viene eseguito per ogni token e dove gira il modello. Un token è un frammento di testo elaborato dal modello.

I nomi di Google Gemma rendono concreta la distinzione. E2B ed E4B indicano i parametri effettivi; i pesi aggiuntivi degli embedding richiedono comunque memoria. 26B A4B indica un modello mixture-of-experts, che seleziona una parte della propria rete per ogni token: Google dichiara che attiva 4 miliardi di parametri, ma carica tutti i 26 miliardi per un'inferenza rapida. Non occupa quindi la memoria di un modello da 4B. La guida di Google alla memoria spiega questa distinzione.

La quantizzazione, che memorizza i pesi con una precisione numerica inferiore, può ridurre l'ingombro. Non elimina però la memoria necessaria al contesto né il software di supporto. La cache KV conserva informazioni intermedie sul contesto durante la generazione; richieste e risposte più lunghe possono farla crescere. Pianifica in base ai requisiti del checkpoint e del runtime effettivi, poi misura sul dispositivo di destinazione.

Una fascia API descritta come rapida o efficiente risponde a un'altra esigenza. Può migliorare i tempi di risposta e ridurre i costi operativi senza rendere noto il numero di parametri né offrire pesi scaricabili.

Esempi di SLM: le famiglie attuali da valutare

Usa questi checkpoint, con i nomi assegnati dai produttori, come candidati per un compito preciso. Il solo nome della famiglia non specifica i tipi di input, i requisiti di memoria o l'affidabilità.

Microsoft Phi: compiti testuali circoscritti, con un limite nelle conoscenze

Microsoft Phi-4-mini-instruct è un modello testuale aperto con 3.8B parametri e una finestra di contesto di 128K token. La sua scheda documenta la capacità di seguire istruzioni, un formato per le chiamate a funzioni e l'esecuzione locale. È un candidato per estrarre campi da un testo fornito o riscrivere una breve risposta nel formato richiesto. Scheda del modello Microsoft.

Il limite principale riguarda le conoscenze fattuali: Microsoft avverte che il modello non può memorizzare un ampio patrimonio di conoscenze e può produrre informazioni errate. Fornisci all'assistente di supporto la politica pertinente, invece di aspettarti che i pesi contengano le regole della tua attività.

Anche Phi-4-mini-reasoning, della stessa famiglia, ha 3.8B parametri, ma Microsoft dichiara di averlo progettato e testato per il ragionamento matematico. La specializzazione in matematica non dimostra che sia in grado di gestire un agente di assistenza clienti con compiti aperti. Scheda di Phi-4-mini-reasoning.

Google Gemma: candidati per dispositivi mobili, con dimensioni da interpretare

Google Gemma 4 comprende E2B ed E4B, i modelli da 2B e 4B parametri effettivi destinati a dispositivi mobili ed edge. Per queste dimensioni Google documenta input testuali, immagini e audio nativo, una finestra di contesto di 128K, ragionamento configurabile e chiamate a funzioni. Parti da qui se la funzionalità richiede input multimodali in locale, cioè non soltanto testo. Panoramica di Gemma 4.

La compatibilità con l'ambiente di esecuzione va comunque verificata: il numero effettivo non coincide con il totale dei pesi e usare l'intera finestra di contesto richiede memoria aggiuntiva. Un modello compatibile con uno smartphone necessita comunque di un runtime compatibile e di prestazioni accettabili nell’uso continuativo sul telefono reale.

Alibaba Qwen: diverse taglie, con un'avvertenza sul modello più piccolo

Alibaba Qwen3.5 propone checkpoint piccoli denominati 0.8B, 2B, 4B e 9B nella raccolta del produttore. La scheda di Qwen3.5-4B indica 4B per la componente linguistica e include separatamente un encoder visivo. Calcola le risorse necessarie per il pacchetto completo, non soltanto per ciò che suggerisce il suffisso.

Qwen3.5-4B documenta input di testo, immagini e video e un contesto nativo di 262,144 token. È quindi un candidato da valutare per funzionalità che elaborano documenti, ma la finestra indica una capacità, non dimostra un ragionamento affidabile lungo tutto un documento esteso.

L'avvertenza più netta riguarda Qwen3.5-0.8B. Il produttore lo propone per prototipazione, fine-tuning su compiti specifici, ricerca e sviluppo, e avverte che attivare il ragionamento lo rende più incline a cicli che possono impedire alla generazione di terminare. Non inserirlo in un ciclo di ragionamento senza supervisione prima di averne testato la terminazione e imposto dei limiti. Avvertenza di Qwen.

Meta Llama: modelli testuali piccoli, con un limite nelle modalità di input

Meta Llama 3.2 offre modelli da 1B e 3B con input e output testuali. Meta descrive casi d'uso dei modelli ottimizzati per seguire istruzioni che comprendono dialogo, recupero di informazioni, sintesi e assistenza alla scrittura su dispositivi mobili. Sono candidati per funzionalità testuali locali quando l'applicazione non deve esaminare immagini. Scheda del modello Meta.

Questi checkpoint piccoli elaborano soltanto testo. Sono inoltre soggetti alla Llama 3.2 Community License e all'Acceptable Use Policy di Meta: tratta quindi la licenza come una verifica distinta prima dell'adozione.

Per una selezione organizzata in base al computer che usi, prosegui con i migliori LLM locali del 2026. Qui la scelta riguarda il ruolo da assegnare al modello.

I modelli API efficienti vanno valutati a parte

I modelli efficienti ospitati dal fornitore sono i candidati più semplici quando vuoi ridurre il lavoro sull'infrastruttura. Le pagine citate di seguito non pubblicano il numero di parametri: definire SLM ogni fascia implicherebbe quindi un dato sulle dimensioni che quelle fonti non attestano.

OpenAI: GPT-6 Luna per compiti ben delimitati

OpenAI GPT-6 Luna è proposto per compiti mirati da eseguire su grandi volumi. Le indicazioni di scelta di OpenAI associano Luna a compiti circoscritti e allo smistamento iniziale, mentre indicano GPT-6 Astra per problemi ambigui e analisi approfondite. È un confronto utile tra passaggi limitati e passaggi da affidare a un modello di frontiera, senza inventare il numero di pesi di nessuno dei due.

Luna ha un vincolo sugli strumenti che dipende dall'endpoint: la sua pagina del modello specifica che le chiamate a funzioni in Chat Completions richiedono reasoning_effort impostato su none; la Responses API supporta strumenti integrati e chiamate a funzioni. Verifica i requisiti dell'endpoint prima di sostituire il modello di un agente.

Anthropic: Claude Haiku 5.5 per i passaggi ripetuti degli agenti

Anthropic Claude Haiku 5.5 è documentato per classificazione, estrazione, instradamento e attività da subagente, con ragionamento adattivo e una finestra di contesto di 1M token. È un candidato per le parti ripetitive e circoscritte di un agente più ampio. Documentazione di Haiku 5.5.

Prima della migrazione, verifica la compatibilità delle richieste: Anthropic indica di omettere temperature, top_p e top_k. Un wrapper API condiviso deve tenere conto delle impostazioni specifiche di ciascun modello. Inoltre, un'ampia finestra di contesto non rende qualsiasi compito su testi lunghi adatto a un modello di fascia piccola.

Google: Gemini 3.5 Flash-Lite per acquisire input multimodali

Google Gemini 3.5 Flash-Lite è documentato per attività da subagente ad alta capacità di elaborazione e per l'analisi di documenti. Accetta testo, immagini, video, audio e PDF, restituisce testo e supporta output strutturati e chiamate a funzioni. È un candidato per convertire il materiale in ingresso in un record dal formato definito. Documentazione di Gemini 3.5 Flash-Lite.

Per le funzionalità vocali, distingui l'input dall'interazione: accettare audio in ingresso non significa generarlo, e questo modello non supporta la Live API. Un sistema che analizza documenti e una conversazione vocale in tempo reale hanno requisiti diversi.

SLM vs LLM: esempi di scelta in base al compito

Scegli il primo modello in base all'output che dovrai verificare. Le indicazioni seguenti presuppongono che il checkpoint selezionato supporti l'input e l'ambiente di esecuzione.

La regola che può ribaltare la scelta: mantieni il candidato più piccolo solo se raggiunge lo stesso standard di accettazione e migliora il vincolo che ti interessa. Se richiede correzioni frequenti, una chiamata economica non ha prodotto un risultato economico.

Dove conviene ciascuna classe di modelli

Compiti circoscritti, latenza e costo per chiamata: modelli piccoli

Per attività ripetitive e ben delimitate, i modelli piccoli meritano di essere valutati per primi. Un breve classificatore o estrattore produce un output facile da giudicare e offre pochi motivi per pagare un ragionamento esteso a ogni richiesta.

Le dimensioni del modello, però, non misurano la latenza. L'esecuzione locale elimina il viaggio di andata e ritorno verso un servizio di inferenza remoto; un dispositivo sovraccarico può comunque impiegare più tempo di un modello ospitato in cloud. Misura il tempo necessario a ottenere un risultato accettato, includendo elaborazione dell'input, generazione, validazione e nuovi tentativi.

Allo stesso modo, confronta il costo per risultato accettato. Una cascata che parte da un modello piccolo paga la chiamata iniziale e i controlli, poi paga anche la chiamata al modello più grande ogni volta che deve passare al livello superiore. L'hosting autonomo aggiunge hardware, capacità inutilizzata e gestione operativa. Mantieni il percorso con il modello piccolo quando aumenta il volume misurato di risultati accettati; invia subito i compiti chiaramente difficili al modello più capace.

Esecuzione sul dispositivo e riservatezza: modelli piccoli locali

I modelli piccoli locali sono la scelta vincente quando la funzionalità deve operare senza un servizio di inferenza remoto. Pensa a un operatore sul campo che classifica appunti senza connessione, oppure a una funzione desktop i cui documenti di origine devono restare sul computer.

La privacy dipende dal percorso di esecuzione, non dall'aggettivo «piccolo». Esamina telemetria, log, servizi di recupero delle informazioni, strumenti e destinazioni di ripiego. Un primo tentativo locale seguito da un nuovo tentativo automatico nel cloud oltrepassa lo stesso confine di una chiamata diretta al cloud. La guida all'AI sul dispositivo approfondisce la scelta a livello di dispositivo.

Ragionamento in più passaggi: modelli di frontiera

I modelli di frontiera sono il punto di partenza più solido per piani nuovi ed eccezioni ambigue. Una controversia su un rimborso può richiedere di conciliare un registro di spedizione, un'eccezione alla policy e un accordo precedente con il cliente. Estrarre correttamente ogni campo è solo una parte della risoluzione del caso.

I modelli piccoli specializzati nel ragionamento smentiscono l'idea che «piccolo» significhi «incapace di ragionare». La domanda utile è se la loro specializzazione corrisponda al passaggio da eseguire. La valutazione matematica di Phi non dimostra l'affidabilità di un agente generalista. Usa un modello piccolo per un sottoproblema verificabile in modo indipendente; mantieni quello di frontiera dove l'esito dipende dall'interpretazione di informazioni contrastanti.

Sintesi su contesti lunghi: modelli di frontiera, fino a prova contraria

Per conciliare le informazioni di una pratica lunga, parti da un modello di frontiera; per trovare un campo in un passaggio fornito, valuta prima un modello piccolo. Entrambi i compiti consumano contesto, ma richiedono ragionamenti diversi.

La finestra di 262,144 token di Qwen3.5-4B e quella di 1M token di Haiku 5.5 smentiscono l'idea che i modelli piccoli o efficienti abbiano sempre un contesto breve. Non dimostrano però che sappiano collegare correttamente tutti i passaggi rilevanti. Scheda del modello Qwen, documentazione di Haiku.

Metti alla prova clausole in conflitto, una rettifica vicina alla fine del testo e una risposta che richieda informazioni tratte da sezioni diverse. Un modello che si limita ad accettare l'input non ha superato il test. Il recupero delle informazioni, cioè la selezione degli elementi pertinenti prima della generazione, può alleggerire il lavoro per entrambe le taglie.

Scrittura a tema aperto: modelli di frontiera

Quando la qualità dipende da giudizio, voce e tenuta della struttura, il primo incarico va ai modelli di frontiera. Le indicazioni di OpenAI distinguono esplicitamente gli interventi circoscritti dalla scrittura ricca di sfumature e dalla produzione di elaborati impegnativi. Guida alla scelta del modello.

Una breve riscrittura secondo un modello di testo approvato è un ottimo compito per un modello piccolo. Un documento che espone una strategia di prodotto partendo da informazioni incomplete è un lavoro diverso. Valuta entrambi gli output rispetto a fatti da includere, precisazioni necessarie, pubblico e voce; lunghezza e scorrevolezza, da sole, non determinano la qualità. Nessuna delle due classi garantisce accuratezza fattuale o assenza di bias.

Come usare entrambi nella stessa funzionalità

Instrada le richieste in base ai requisiti del singolo passaggio, prima di aggiungere un modello che decida tutto. Un router sceglie quale modello gestisce una richiesta; una cascata prova prima un percorso meno costoso e passa a un livello superiore se i controlli falliscono. La guida ai router per modelli approfondisce queste architetture.

Immagina un assistente di supporto. Il cliente scrive: «Il pacco è arrivato danneggiato e voglio il rimborso delle spese di consegna». La funzionalità deve classificare il problema, cercare l'ordine, interpretare la policy e proporre una risposta. Queste attività non richiedono tutte le stesse capacità del modello.

1. 1

   Applica prima i vincoli sui dati

   Prima di inviare il ticket a un modello, controlla la policy dell'applicazione relativa all'account e le destinazioni consentite. Se l'elaborazione remota è vietata, limita ogni ramo ai servizi locali approvati o a una coda gestita da persone. La difficoltà del compito non deve aggirare silenziosamente questa regola.

2. 2

   Affida al modello piccolo un'estrazione circoscritta

   Chiedi la categoria del problema, un riferimento all'ordine se presente e i passaggi testuali esatti del ticket che supportano l'estrazione. Lascia mancanti le informazioni che non ci sono. Il codice applicativo verifica categorie ammesse, campi obbligatori, citazioni dalla fonte ed esistenza del riferimento all'ordine. Questi controlli rilevano errori specifici; non dimostrano che l'intera interpretazione sia corretta.

3. 3

   Inoltra i casi ambigui insieme alle informazioni originali

   Invia le interpretazioni controverse della policy, le richieste miste e i casi che non superano i controlli a un modello di frontiera approvato o a una persona. Includi il ticket originale, la policy recuperata e il controllo fallito, non soltanto il riepilogo del modello piccolo. La sicurezza dichiarata dal modello non sostituisce un segnale di instradamento validato attraverso valutazioni.

4. 4

   Tieni l'autorizzazione ad agire fuori dalla generazione

   Lascia che il modello proponga una risposta o una chiamata a uno strumento. Il codice applicativo fa rispettare i permessi dell'account, le azioni consentite e le eventuali approvazioni umane richieste. Una risposta apparentemente corretta non autorizza a emettere un rimborso.

Registra perché ogni richiesta è stata inoltrata a un livello superiore, se la risposta finale ha superato i controlli e quanto tempo ha richiesto l'intera operazione. Esamina anche un campione degli output accettati del modello piccolo: i validatori possono lasciarsi sfuggire errori plausibili. Se una categoria di compiti richiede quasi sempre il passaggio al modello di frontiera, instradala direttamente lì.

Ecco perché combinare le due classi ha senso nei carichi di lavoro misti in produzione: passaggi economici e verificabili convivono con valutazioni difficili nella stessa funzionalità. L'instradamento consente a ogni passaggio di rispettare i propri requisiti di qualità e tempi di risposta.

SLM vs LLM: che cosa comporta cambiare modello?

Cambia un passaggio prima di cambiare l'intera funzionalità. Conservane input, schema dell'output, riferimenti alle fonti e comportamento in caso di errore, poi adatta prompt e impostazioni API al nuovo modello. Mantenere la stessa interfaccia HTTP non garantisce le stesse chiamate a strumenti o le stesse risposte.

Passare a pesi locali trasferisce a te anche la responsabilità del servizio di inferenza, della gestione della memoria, degli aggiornamenti di versione e della pianificazione della capacità. Passare da un modello ospitato a un altro può cambiare i parametri delle richieste e gli strumenti disponibili. Mantieni un adattatore che gestisca queste differenze e registra il checkpoint o la versione esatta del modello usati nella valutazione.

Non cambiare se il modello attuale soddisfa già il requisito e non hai un motivo misurato legato a latenza, costi operativi o ubicazione dei dati. Un modello minuscolo non è, di per sé, un successo architetturale.

Se un compito stabile e circoscritto richiede ancora un comportamento migliore, valuta la distillazione dei modelli, cioè l'addestramento di un modello allievo sugli esempi di un modello insegnante, dopo aver verificato quali modalità di addestramento sono consentite. Parti dai prompt e dalle informazioni fornite: modificare i pesi di un modello è un impegno maggiore che cambiare il percorso delle richieste.

Domande frequenti

ChatGPT è un LLM o un SLM?

ChatGPT è un'applicazione basata su modelli linguistici, non un unico modello con un numero fisso di parametri. La documentazione di chat-latest di OpenAI distingue il modello usato nell'applicazione da una versione fissa del modello. Confronta il modello sottostante, non il nome dell'app.

DeepSeek è un SLM o un LLM?

Occorre specificare il checkpoint. Come esempio storico concreto, DeepSeek-R1 ha 671B parametri totali, mentre DeepSeek-R1-Distill-Qwen-1.5B è un modello distillato molto più piccolo. Entrambi compaiono nella scheda di DeepSeek-R1; il marchio, da solo, non ne determina le dimensioni.

Meglio usare un LLM o un SLM?

Parti da un modello piccolo per un compito circoscritto e verificabile. Parti da un modello di frontiera per ragionamenti su problemi nuovi, informazioni contrastanti o scrittura a tema aperto. Un requisito inderogabile di esecuzione locale limita i modelli ammissibili prima ancora del confronto sulla qualità.

Che cosa significa SLM nell'intelligenza artificiale?

SLM significa small language model: è un'etichetta relativa per un modello linguistico con un ingombro computazionale ridotto. Non significa automaticamente specializzato, privato, offline o accurato.

Qual è la differenza tra SLM e LLM?

La distinzione principale è la scala relativa, con conseguenze sulle modalità di esecuzione e sulle capacità. Non esiste una soglia universale di parametri e le etichette si sovrappongono: Meta definisce LLM i suoi checkpoint piccoli di Llama 3.2. Valuta il modello preciso e il compito.

Quali sono i quattro tipi di LLM?

Non esiste un'unica classificazione universale in quattro tipi. Architettura, metodo di addestramento, modalità di input e numero di parametri sono modi diversi di descrivere un modello. Un elenco basato su uno di questi criteri non determina se un altro modello sia abbastanza piccolo per il tuo dispositivo.

Quali sono i 5 migliori LLM?

Una classifica fissa dei primi cinque nasconderebbe i vincoli del compito e dell'ambiente di esecuzione. Per questa scelta, seleziona un modello di riferimento capace e un candidato efficiente con gli input e gli strumenti necessari, poi confrontali su attività rappresentative. Una classifica generale non può stabilire quale sia il migliore per la tua funzionalità.

Qual è la differenza tra LLM e GPT?

LLM è la categoria più ampia. GPT, abbreviazione di Generative Pre-trained Transformer, indica una famiglia di modelli OpenAI al suo interno. Il glossario di Google sui modelli linguistici spiega i termini.

Quali sono i 5 principali modelli di AI?

Non esiste un elenco universale di cinque modelli. L'espressione può riferirsi a metodi di apprendimento, architetture o famiglie di modelli commerciali. Per una funzionalità linguistica, specifica input, output, vincoli di esecuzione e requisiti di qualità prima di scegliere i modelli per nome.

Che cosa indica il confronto SLM vs LLM?

È lo stesso confronto tra modelli piccoli e grandi, con l'ordine invertito. Scegli il candidato più leggero che supera la prova sul compito, mantenendo un percorso verso un modello più capace o una persona per le attività che escono dal suo ambito validato.

LLM, SLM e MLM: che cosa cambia?

MLM è ambiguo: può significare masked language model, che predice testo nascosto, oppure essere usato informalmente per multimodal language model. Nessuno dei due significati definisce una terza fascia di parametri intermedia tra piccoli e grandi. Il glossario di Google distingue la modellazione con testo mascherato dagli input multimodali.

LLM, SLM e RAG: che rapporto c'è?

La retrieval-augmented generation, o RAG, fornisce a un generatore informazioni recuperate da altre fonti. Funziona sia con un modello linguistico piccolo sia con uno grande. Può colmare lacune informative, ma non garantisce che il modello interpreti correttamente le fonti.

Il prossimo passo nello sviluppo

La prossima settimana scegli un passaggio ripetitivo e scrivi i suoi criteri di accettazione prima di confrontare i modelli. Usa esempi tenuti da parte, cioè casi che non hai usato per ottimizzare il prompt, e includi richieste di routine, casi ambigui, informazioni mancanti e input fuori ambito.

Esegui il candidato piccolo accanto alla soluzione attuale, senza consentirgli di modificare dati in produzione. Confronta correttezza, output rifiutati, eccezioni non rilevate, latenza complessiva e impegno operativo. Porta in produzione solo le categorie che superano i controlli; mantieni il percorso di ripiego e continua a verificare i risultati accettati.

Usa la checklist per l'audit dei flussi di lavoro aziendali con l'AI per scegliere il primo passaggio che vale la pena ottimizzare.