Small language models: come scegliere e usare un modello compatto

Scopri quando usare gli small language models: cinque casi pratici, modelli e licenze a confronto, requisiti di memoria e guida all’esecuzione locale o via API.

Pubblicato il

Small language models: come scegliere e usare un modello compatto

Gli small language models, o piccoli modelli linguistici, meritano una prova quando il compito è ben definito, la risposta si può verificare e le eccezioni sono gestibili. Per un'attività circoscritta, parti dalla valutazione di un modello da 1B a 4B; tieni disponibile un'API di frontiera per i casi che richiedono conoscenze più ampie o un ragionamento più affidabile, se le regole sul trattamento dei dati lo consentono.

La scelta, per un'azienda, è capire se un modello più piccolo riesce a soddisfare i criteri di accettazione sull'hardware disponibile. Una risposta rapida e plausibile che finisce per creare un'altra coda di revisioni non risolve il problema.

Che cosa sono gli small language models?

Un piccolo modello linguistico, o SLM, rinuncia a parte delle capacità generali per ridurre il fabbisogno di risorse di calcolo. Per orientarsi nella scelta, si può considerare un intervallo indicativo di 100 milioni–10 miliardi di parametri, con alcune eccezioni al di sopra. Non esiste una soglia universale: IBM parla di un intervallo da milioni a pochi miliardi, mentre Mistral include esplicitamente un modello da 14B nella propria famiglia di modelli piccoli. Il confine cambia con l'hardware, i metodi di addestramento e le capacità dei modelli più grandi. La definizione di IBM e la famiglia di modelli Mistral mostrano questa differenza di interpretazione.

Un parametro è un peso numerico appreso durante l'addestramento che contribuisce a determinare le risposte del modello. Un token è una porzione di testo elaborata dal modello. I modelli generativi per la chat costruiscono la risposta prevedendo un token dopo l'altro sulla base del contesto fornito. Un modello più piccolo usa meno pesi appresi, ma oltre al loro numero contano l'architettura e la qualità dell'addestramento. L'introduzione di Google ai modelli linguistici spiega il meccanismo.

Pensa al laboratorio di un piccolo panificio, attrezzato per un assortimento preciso. È una scelta sensata per evadere ogni giorno gli stessi ordini; pretendere che prepari qualsiasi piatto venga in mente a un cliente è un'altra esigenza. Un modello piccolo non è automaticamente uno specialista, ma un flusso di lavoro circoscritto permette di concentrarne le capacità dove servono.

I modelli piccoli possono essere addestrati direttamente oppure sviluppati tramite distillazione, una tecnica con cui un modello più piccolo impara dagli output di uno più grande. La quantizzazione, invece, memorizza i pesi numerici a una precisione inferiore per ridurne l'ingombro. Sono due cose diverse: quantizzare un modello grande non ne riduce il numero di parametri e non lo rende equivalente a uno molto più piccolo. IBM descrive separatamente queste tecniche.

SLM vs LLM: come scegliere tra modelli piccoli e grandi

La qualità sul compito viene prima delle esigenze di esecuzione. Un'API di frontiera, cioè un servizio che rende accessibile via internet un modello ad alte prestazioni di un fornitore, evita di dover gestire l'hardware per l'inferenza. Un modello piccolo offre più possibilità di distribuzione, compresa quella di svolgere l'intero lavoro su un dispositivo.

Le dimensioni del modello e il luogo in cui viene eseguito sono scelte distinte. Un modello piccolo può essere ospitato dietro un'API, mentre alcuni modelli aperti più grandi possono girare sulla propria infrastruttura. La parola “mini” scelta da un fornitore non indica un numero preciso di parametri e non implica che i pesi siano scaricabili.

Criterio di sceltaModello piccolo sul proprio hardwareAPI di frontiera
Compito circoscritto e ripetitivoUn candidato valido se la validazione intercetta gli erroriUn utile riferimento per la qualità
Richiesta ambigua o insolitaPiù probabilmente richiede il passaggio a un altro sistema o a una personaIn genere è il punto di partenza migliore; va comunque valutata
Tempo di rispostaEvita l'andata e ritorno verso un servizio di inferenza remoto; conta la velocità del dispositivoComprende i tempi di rete e di elaborazione del fornitore
Posizione dei dati e uso offlinePuò restare tutto in locale se anche ogni dipendenza è localeRichiede una connessione a un servizio remoto
Carico operativoCapacità, aggiornamenti e monitoraggio sono a proprio caricoIl fornitore gestisce l'inferenza; integrazione e controlli restano a proprio carico

Questi sono compromessi legati alla distribuzione, non risultati di benchmark. La panoramica di Microsoft sugli SLM descrive i vantaggi in termini di risorse e i limiti delle capacità. Il confronto utile è quello sul carico di lavoro reale, compresi gli input difficili.

Perché un'azienda sceglie un modello piccolo

Costo per chiamata: l'inferenza con un modello più piccolo può richiedere meno risorse. Eseguire in locale, però, non è gratis: contano anche hardware, elettricità, assistenza, capacità inutilizzata e tentativi ripetuti. Confronta il costo per risultato accettato, includendo revisione ed escalation, invece di considerare la scomparsa della fattura API un successo sufficiente. Per un servizio usato poco, acquistare l'accesso può essere più semplice che gestirlo.

Latenza: l'esecuzione locale elimina il viaggio verso il servizio di inferenza remoto. Non garantisce una risposta più veloce. Il caricamento del modello, l'elaborazione di un prompt lungo, la lentezza della memoria e le richieste simultanee possono pesare di più. Per un operatore che guarda un modulo compilarsi, il tempo da misurare è quello necessario a ottenere il modulo completo e valido.

Privacy: l'inferenza locale può mantenere il prompt sul dispositivo. Il vantaggio si perde se uno strumento di ricerca connesso, un sistema remoto di riserva o un log dell'applicazione invia altrove lo stesso testo. Prima di dichiarare che il sistema tutela la riservatezza, controlla l'intero percorso dei dati, compresi file sincronizzati e telemetria.

Uso offline: una volta scaricati applicazione, modello e risorse necessarie, un flusso di lavoro locale può restare disponibile senza accesso a internet. È utile, per esempio, a un tecnico che deve scrivere un rapporto di intervento in un seminterrato. Consultare le scorte aggiornate richiede comunque una connessione, a meno di fornire anche una copia locale dei dati. La documentazione di LM Studio sull'uso offline chiarisce la distinzione tra inferenza con risorse già scaricate e operazioni che richiedono una connessione.

Per il fondatore di una startup già finanziata, un servizio ospitato è spesso il modo più rapido per capire se la funzionalità è utile. Per il CTO di un'azienda di medie dimensioni, l'esecuzione locale diventa interessante quando un carico di lavoro ripetibile o un vincolo sulla collocazione dei dati giustifica la gestione interna. Per un responsabile operativo esperto, la metrica decisiva è la quota di lavoro che produce una risposta utilizzabile senza correzioni. Per chi sviluppa da solo, una prova su portatile può dimostrare la fattibilità prima di acquistare hardware.

Cinque attività adatte ai modelli piccoli

I candidati migliori hanno output limitati e un criterio chiaro per scartare gli errori. Quelli che seguono sono possibili schemi di lavoro: non implicano che tutti i modelli citati più avanti superino già le prove sul tuo compito.

1. Classificazione

Usa il modello per assegnare un testo a un insieme fisso di categorie. Un operatore dell'assistenza potrebbe classificare i ticket come billing, access, bug oppure other. Fornisci definizioni ed esempi al limite tra le categorie, poi misura gli errori di ciascuna categoria separatamente.

Il perimetro utile è “scegliere la coda”, non “risolvere il problema dell'account del cliente”. Mantieni un percorso other per i messaggi che non rientrano nella tassonomia. Se semplici regole classificano già gli input in modo affidabile, continua a usarle.

2. Estrazione

Trasforma il testo fornito in un record dalla struttura fissa: per esempio numero di fattura, fornitore, scadenza e valuta. Richiedi il passaggio della fonte da cui proviene ogni campo estratto e consenti null quando l'informazione manca. Uno schema, cioè la definizione della struttura e dei tipi ammessi nell'output, controlla il formato; non dimostra che i valori siano corretti.

Per i documenti scansionati, il riconoscimento del testo è un passaggio distinto, a meno che il modello e il runtime scelti supportino immagini in ingresso. Valida date, totali e identificativi nel codice prima di inviare un record al sistema contabile. Non chiedere mai al modello di indovinare un numero di fattura mancante.

3. Instradamento

Lascia che un modello piccolo proponga il flusso di lavoro specializzato a cui assegnare una richiesta. Un help desk interno potrebbe distinguere tra “trovare una policy”, “ripristinare l'accesso” e “parlare con un operatore”. L'applicazione verifica poi se quel percorso è consentito.

Il modello che instrada le richieste non deve diventare il sistema di autorizzazione. Considera il percorso scelto una proposta, applica una lista di destinazioni consentite e passa le richieste ambigue a un livello di gestione superiore. Il grado di sicurezza dichiarato dal modello non è una probabilità calibrata di correttezza.

Un flusso di lavoro in una cucina di argilla passa dalla richiesta al modello piccolo e alla validazione, per poi dividersi tra accettazione ed escalation.
Valida prima di accettare. L'escalation può prevedere una revisione umana o un modello più grande, solo dove le regole sul trattamento dei dati lo consentono.

4. Assistenti sul dispositivo

Un assistente può riscrivere l'appunto di un tecnico, riassumere istruzioni memorizzate in locale o preparare una query di ricerca senza inviare il testo originale a un modello remoto. Il perimetro deve essere esplicito: “aiutare a consultare questi manuali scaricati”, anziché “rispondere a qualsiasi domanda sulla manutenzione”.

Fornisci il passaggio pertinente insieme alla richiesta. Un modello non può conoscere una nuova procedura solo perché l'applicazione l'ha scaricata da qualche parte. Mantieni un accesso ben visibile al documento originale e prova il sistema sul telefono che verrà effettivamente usato, considerando anche i limiti di batteria e temperatura.

5. Stesura di bozze da un modello prestabilito

Genera una bozza a partire da campi approvati e da un formato definito. Un account manager potrebbe trasformare il verbale verificato di una riunione in un'email di follow-up, con sezioni dedicate a decisioni, responsabili e prossimi passi.

Mantieni impegni, prezzi e date nei campi validati della fonte. Se manca un valore, omettilo o richiedilo. La scrittura assistita con un modello piccolo è più facile da controllare quando il modello riformula il testo e l'applicazione fornisce i fatti.

Small language models open source: dimensioni e licenze

Questi sono modelli a pesi aperti riportati dai produttori e verificati il 14 ottobre 2026, non una classifica basata su prove dirette. In questo ambito, “open source” è spesso usato in modo approssimativo: poter scaricare i pesi non significa avere gli stessi diritti su tutti i modelli. Controlla la licenza del checkpoint esatto che distribuisci, compresi eventuali derivati o pacchetti quantizzati.

Le dimensioni riportate seguono i nomi usati dai produttori, con le differenze rilevanti nel conteggio indicate esplicitamente. Un runtime è il software che carica i pesi ed esegue il modello; compatibilità e memoria disponibile vanno comunque verificate.

Famiglia di modelliTaglie piccole indicateLicenzaDove eseguirli
Google Gemma 4E2B: 2.3B effettivi, 5.1B con gli embedding; E4B: 4.5B effettivi, 8B con gli embeddingApache 2.0GGUF in locale con LM Studio o llama.cpp; le build per dispositivi mobili usano LiteRT-LM
Microsoft Phi-4-mini-instruct3.8BMITSulla propria infrastruttura con Transformers o vLLM, su una macchina supportata
Alibaba Qwen3.5Modelli linguistici da 0.8B, 2B, 4B, 9B; l'encoder visivo aumenta le dimensioni del pacchettoApache 2.0Sulla propria infrastruttura con versioni compatibili di Transformers, vLLM o SGLang
Meta Llama 3.2Taglie denominate 1B e 3B; conteggi esatti di 1.23B e 3.21BLlama 3.2 Community License e Acceptable Use PolicyOllama in locale; Transformers; build quantizzate per dispositivi mobili tramite ExecuTorch
Mistral AI Ministral 33B, 8B, 14BApache 2.0In locale su PC RTX, portatili o Jetson compatibili; API ospitata da Mistral

Google Gemma 4 merita una valutazione quando un assistente locale deve accettare, oltre al testo, immagini o audio. Le sigle E2B ed E4B descrivono il numero effettivo di parametri: non calcolare quindi la memoria basandoti soltanto sul nome. Google fornisce formati di distribuzione e indicazioni sulla memoria, comprese le opzioni per l'uso locale e mobile.

La panoramica di Google sul modello Gemma e la documentazione per la distribuzione.
Google Gemma: indicazioni ufficiali per la distribuzione

Microsoft Phi-4-mini-instruct è un modello testuale la cui scheda fornisce istruzioni per l'esecuzione locale e segnala esplicitamente i limiti delle conoscenze fattuali. È quindi un candidato sensato per attività basate sul contesto fornito, da valutare con attenzione sulla lingua e sui documenti da usare; non sostituisce una fonte di informazioni aggiornata.

La scheda ufficiale di Microsoft per il modello Phi-4-mini-instruct.
Microsoft Phi: scheda del modello e limiti

Alibaba Qwen3.5 offre una gamma di taglie piccole utile per confrontare lo stesso compito con diversi requisiti hardware. La scheda del modello 4B documenta le opzioni di esecuzione, mentre la licenza del checkpoint ne stabilisce le condizioni d'uso. Verifica il supporto del runtime e l'intero pacchetto multimodale, senza dare per scontato che ogni applicazione locale gestisca tutte le varianti.

La raccolta ufficiale di Alibaba Qwen con i checkpoint di Qwen3.5.
Alibaba Qwen: checkpoint elencati dal produttore

Meta Llama 3.2 offre modelli solo testuali abbastanza piccoli da rendere pratiche le prove direttamente sul dispositivo, con tecniche di quantizzazione per il mobile documentate da Meta. La sua licenza personalizzata è un accordo diverso da MIT o Apache 2.0. Sceglilo per un flusso di lavoro testuale circoscritto; se devi leggere immagini, serve un altro modello.

La scheda ufficiale di Meta per Llama 3.2 e le condizioni di licenza.
Meta Llama: modelli testuali e condizioni di distribuzione

Mistral AI Ministral 3 propone varianti base, instruct e reasoning nelle diverse taglie piccole, con capacità di comprensione delle immagini. Per un'attività ordinaria, inizia valutando una variante instruct, cioè addestrata a seguire le richieste. Una risposta più lunga che sviluppa il ragionamento può aumentare la latenza quando basta una breve categoria o un campo estratto. La pagina attuale del modello 3B documenta il modello ospitato dal fornitore.

La documentazione ufficiale di Mistral per il modello Ministral 3 3B.
Mistral AI: un modello piccolo da eseguire in locale o tramite servizio ospitato

Quali piccoli modelli linguistici scegliere per una prima prova?

Parti dal candidato più piccolo che supporti il tipo di input e la lingua richiesti, abbia una licenza accettabile e sia compatibile con un runtime supportato. Confrontalo con un candidato più grande sugli stessi identici esempi. Senza quel carico di lavoro, non si può indicare seriamente un vincitore universale.

Per una scelta orientata all'hardware su una gamma più ampia, consulta la guida ai migliori LLM locali. La selezione qui sopra serve a chiarire quando scegliere un modello piccolo.

Che cosa può girare su un portatile, un telefono o una sola GPU?

I pesi del modello sono solo il punto di partenza per il fabbisogno di memoria. Serve anche memoria di lavoro per il runtime e per il contesto, cioè il testo e gli altri input che il modello sta elaborando.

Ecco un calcolo volutamente semplificato: 4 miliardi di parametri × 4 bit ÷ 8 = 2 GB di pesi grezzi, usando gigabyte decimali. È un nostro calcolo, non un benchmark né l'affermazione che un modello da 4B giri con 2 GB di RAM. Metadati della quantizzazione, pesi memorizzati a precisioni diverse, runtime e cache del contesto richiedono tutti memoria aggiuntiva.

La cache KV è memoria di lavoro usata per evitare di ricalcolare parti del contesto precedente. Input più lunghi, output più lunghi e più richieste simultanee possono aumentare la memoria necessaria. Le indicazioni di Google per pianificare la memoria distinguono esplicitamente i pesi statici dal contesto e dal software di supporto.

Un mobile di argilla mostra una stima di 2 GB di pesi grezzi per 4B di parametri a 4 bit, con scomparti separati per contesto e runtime.
Il calcolo di 2 GB riguarda solo i pesi grezzi in condizioni ideali. Contesto, runtime e altri componenti richiedono ulteriore memoria.

Un telefono richiede un runtime mobile compatibile e un carico di lavoro che resti utile anche sotto i vincoli del dispositivo durante un uso prolungato. Un portatile deve lasciare memoria al sistema operativo e alle applicazioni effettivamente utilizzate. Una sola GPU non è una specifica sufficiente: ciò che può contenere dipende dalla memoria video disponibile, dal software supportato e dal carico di richieste.

Un modello che entra in memoria può comunque essere troppo lento. Misura sia gli avvii a freddo sia le richieste successive, poi prova la lunghezza dei prompt e il carico simultaneo previsti. Non riservare la finestra di contesto massima solo perché è riportata nella scheda del modello.

Come eseguire un piccolo modello linguistico

Usa Ollama se la riga di comando e un'API locale si adattano al tuo flusso di lavoro; scegli LM Studio se preferisci scaricare, caricare e confrontare i modelli da un'interfaccia desktop. Entrambi sono runtime e applicazioni, non il modello stesso. Il confronto tra Ollama e LM Studio approfondisce la scelta.

Esecuzione locale con Ollama

Ollama offre un sistema per eseguire modelli in locale e un'interfaccia HTTP. Installalo e avvialo seguendo la guida rapida ufficiale, poi scarica un modello con un nome preciso. La voce Llama 3.2 nel catalogo riporta entrambe le taglie piccole.

Il catalogo dei modelli Ollama mostra le taglie disponibili di Llama 3.2.
Ollama: scegli un tag preciso per il modello locale
  1. Scarica un modello piccolo

    Dopo aver installato Ollama, esegui questi comandi in un terminale:

    Bash
    ollama pull llama3.2:3b
    ollama run llama3.2:3b

    Il primo comando scarica il modello. Il secondo apre una sessione interattiva. È una procedura iniziale documentata, non la dimostrazione che il modello abbia superato le prove sul tuo compito.

  2. Prova una richiesta API con un compito circoscritto

    Con Ollama in esecuzione, questa richiesta chiede di assegnare una categoria a un ticket di assistenza e di restituire l'output in JSON. Eseguila in una shell in cui sia disponibile curl:

    Bash
    curl http://localhost:11434/api/generate \
      -H 'Content-Type: application/json' \
      -d '{
        "model": "llama3.2:3b",
        "prompt": "Classify the ticket as billing, access, bug, or other. Return JSON with one key: category. Ticket: I cannot sign in after resetting my password.",
        "format": "json",
        "stream": false
      }'

    Leggi il testo generato nel campo response della risposta. L'endpoint generate accetta anche un JSON Schema quando serve una struttura di output più rigida. L'applicazione deve comunque rifiutare le categorie sconosciute e valutare se la classificazione è corretta.

  3. Controlla dove avviene l'esecuzione

    Usa ollama ps per vedere se il modello è caricato su CPU, GPU o entrambe. Se il flusso di lavoro deve restare locale, disabilita le funzionalità cloud impostando OLLAMA_NO_CLOUD=1 nell'ambiente del servizio Ollama in esecuzione e riavvialo. Ollama documenta questi controlli nelle FAQ. Escludi strumenti connessi e sistemi remoti di riserva dalle prove offline.

Esecuzione locale con LM Studio

LM Studio è un'applicazione desktop per scaricare ed eseguire modelli locali compatibili. La documentazione dell'applicazione descrive il supporto per GGUF, un formato di file per modelli locali, e per MLX su Apple Silicon.

Il sito di LM Studio presenta l'applicazione desktop per l'AI locale.
LM Studio: l'inferenza locale da un'applicazione desktop

Apri Discover, cerca il modello e scegli un download supportato e adatto alla tua macchina. Caricalo in una chat e incolla la stessa richiesta di classificazione usata sopra. Annota il file esatto del modello e la quantizzazione: due download della stessa famiglia possono avere ingombri e qualità diversi. Per l'interfaccia attuale, segui la guida al download dei modelli.

Per una prova offline, scarica prima il modello e il runtime necessario, disconnettiti e ripeti il compito. Il modello può funzionare in locale mentre la ricerca di modelli, i download o gli strumenti esterni richiedono ancora una connessione. Una prova di chat offline non dimostra che tutte le integrazioni dell'applicazione tutelino la riservatezza.

Utilizzo tramite API ospitata

Un'API che ospita un modello piccolo permette di valutarlo senza gestire una GPU. Il servizio di Mistral, per esempio, include Ministral accanto ai modelli più grandi. Segui la guida rapida alle API: crea un account e una chiave, seleziona dalla pagina del modello l'identificativo attuale del modello piccolo e invia lo stesso prompt circoscritto tramite l'endpoint di completamento chat.

Conserva la chiave sul server. Confronta gli output accettati, i tempi di risposta e il lavoro di revisione usando lo stesso dataset della prova locale. Un modello piccolo ospitato da un fornitore esegue comunque inferenza remota: il numero ridotto di parametri non gli conferisce né funzionamento offline né riservatezza sul dispositivo.

Limiti dei modelli piccoli e promesse da ridimensionare

Gli errori più difficili emergono quando il compito si allarga oltre gli esempi per cui è stato progettato. Un classificatore può sembrare affidabile sui ticket semplici e fallire su un messaggio che contiene sia una contestazione di fatturazione sia un problema di accesso. Un modello che scrive bozze può rispettare il formato e, allo stesso tempo, inventare un impegno.

Conoscenze generali e ragionamento su richieste ambigue restano punti deboli da valutare. La scheda di Phi di Microsoft descrive esplicitamente la limitata capacità fattuale e segnala rischi nelle conversazioni lunghe, nelle differenze tra lingue e nell'affidabilità delle informazioni. Fornire fonti pertinenti aiuta a colmare le lacune di conoscenza, ma non garantisce un'interpretazione corretta.

“Piccolo significa accurato” è un'affermazione priva di fondamento. Restringere il compito rende più semplice valutarlo e imporre limiti. Non rende veritiero il modello. Mantieni i controlli sulle evidenze e un percorso per rifiutare la risposta o inoltrarla a un livello superiore.

“Locale significa privato” descrive un'architettura che va costruita. Log, strumenti esterni, sincronizzazione dei documenti e sistemi remoti di riserva possono oltrepassare il confine anche quando l'inferenza resta locale.

“Una finestra di contesto lunga significa che capisce tutto il manuale” è una conclusione eccessiva. La capacità di input dichiarata non garantisce né che tutto entri in memoria né che il modello ragioni correttamente su ogni passaggio. Recupera la sezione pertinente, forniscila insieme alla domanda e confronta la risposta con la fonte.

Piccoli modelli linguistici per ambiti specialistici

La specializzazione parte dal flusso di lavoro, prima dell'addestramento. Fornisci al modello il vocabolario, gli output consentiti e i documenti pertinenti al compito. La retrieval-augmented generation, o RAG, consiste nel trovare materiale di riferimento rilevante e includerlo nella richiesta. Permette di aggiornare le conoscenze fornite senza modificare i pesi del modello.

Per un assistente alla manutenzione, recupera le istruzioni della macchina e della revisione esatte. Non passare una cartella di manuali non pertinenti sperando che il modello scelga bene. Mantieni l'indicazione della revisione della fonte insieme alla risposta, così l'operatore può verificarla.

Fine-tuning dei piccoli modelli linguistici

Il fine-tuning modifica un modello preaddestrato mediante ulteriori esempi. Valutalo quando un compito stabile continua a produrre errori che la progettazione del prompt e il recupero delle fonti non hanno risolto, e disponi di esempi rappresentativi con etichette corrette.

Per un classificatore dell'assistenza, potrebbe servire a insegnare una distinzione specifica dell'azienda tra incidenti e richieste di nuove funzionalità. Tieni da parte un insieme di valutazione che non venga mai usato nell'addestramento. Se il problema è una politica di rimborso che cambia, aggiorna prima la policy fornita: il fine-tuning non sostituisce una fonte di riferimento aggiornata.

Chi dovrebbe partire subito, aspettare o mantenere il sistema attuale?

Parti subito se il compito si ripete, l'output è verificabile e la disponibilità locale o la posizione dei dati risolve un problema concreto. Un responsabile operativo esperto con una coda da smistare manualmente ha un progetto pilota più adatto di un fondatore che vuole sostituire tutti gli assistenti dell'azienda.

Rimanda la migrazione se non sai definire gli errori accettabili, non disponi di esempi rappresentativi o ti serve un agente con un mandato aperto che prenda decisioni dalle conseguenze rilevanti. Definisci prima il flusso di lavoro e il riferimento per la valutazione.

Mantieni l'API esistente se soddisfa già i requisiti e né la posizione dei dati, né la disponibilità offline, né le prestazioni operative misurate giustificano il cambiamento. Le dimensioni del modello, da sole, non sono un motivo per rifare il sistema.

Da lunedì, comincia così: scegli una coda, uno schema di output e un responsabile. Raccogli 100 casi iniziali, per esempio 70 richieste ordinarie, 20 difficili e 10 fuori ambito. Sono quantità suggerite per partire, non una garanzia statistica. Tieni esempi separati per la valutazione finale e aggiungi gli errori rari man mano che li scopri.

Prova un candidato piccolo e la soluzione attuale sugli stessi casi tenuti da parte. Registra correttezza, output non validi, escalation, uso della memoria e latenza complessiva, compreso il 95° percentile, cioè il tempo entro cui si conclude il 95% delle richieste. Fissa la soglia di accettazione prima di confrontare i risultati e analizza gli errori per categoria, senza affidarti soltanto a una media generale. Parti in modalità shadow: il modello propone una risposta mentre il flusso di lavoro esistente mantiene il controllo.

Domande frequenti

A cosa servono gli SLM?

I piccoli modelli linguistici sono adatti a compiti linguistici circoscritti come classificazione, estrazione, instradamento, assistenza locale e stesura di bozze da formati prestabiliti. L'idoneità dipende dal modello, dal contesto fornito e dai controlli sull'output.

Che cosa sono i modelli linguistici preaddestrati?

Sono modelli i cui pesi hanno già appreso regolarità da un dataset di addestramento. Si possono usare così come sono oppure adattare. Una versione sottoposta a instruction tuning ha ricevuto un ulteriore addestramento per seguire le richieste ed è di solito il punto di partenza pratico per un assistente.

Quali altre famiglie di modelli linguistici di grandi dimensioni esistono?

Gemma, Phi, Qwen, Llama e Mistral sono famiglie di modelli linguistici. Alcune comprendono modelli sia piccoli sia grandi. SLM è una descrizione relativa delle dimensioni, non una tecnologia del tutto separata da quella degli LLM.

Che cos'è un modello linguistico basato su una rete neurale?

È un modello che usa pesi numerici appresi all'interno di una rete neurale per stimare regolarità del linguaggio, per esempio quale token potrebbe seguire. Molti modelli linguistici generativi attuali usano architetture transformer.

ChatGPT è una rete neurale?

ChatGPT è un'applicazione alimentata da modelli linguistici neurali. L'applicazione e il modello sottostante sono livelli diversi; “ChatGPT” non identifica una rete di dimensioni fisse. OpenAI distingue i concetti relativi ai modelli dal modello usato in ChatGPT.

Perché una CNN sarebbe migliore di una ANN?

Una rete neurale convoluzionale, o CNN, è un tipo di rete neurale artificiale, o ANN. Non è migliore in assoluto. Le convoluzioni sono utili per riconoscere strutture spaziali, come quelle delle immagini; l'architettura giusta dipende dal compito.

YOLO è soltanto una CNN?

YOLO è una famiglia di sistemi per il rilevamento degli oggetti. Molte versioni usano componenti convoluzionali, ma un rilevatore funzionante comprende un'architettura, un processo di addestramento e una logica di predizione. Non è un piccolo modello linguistico. Ultralytics documenta la famiglia di modelli.

TensorFlow è un modello CNN?

No. TensorFlow è un framework software per costruire ed eseguire modelli di machine learning. Una CNN è uno dei tipi di modello che si possono realizzare con TensorFlow, come mostra il suo tutorial sulle CNN.

Quali sono i quattro tipi di reti neurali?

Non esiste un elenco universale di esattamente quattro tipi. Reti feedforward, convoluzionali, ricorrenti e transformer sono quattro categorie citate di frequente, ma le classificazioni delle architetture variano. Le dimensioni del modello sono una proprietà distinta. Consulta il glossario di Google sul machine learning.

Iscriviti alla newsletter per guide pratiche alla scelta e alla gestione dei sistemi di AI.

Pubblicato
Categoria
AI
Articoli correlati
Gemini gratis: cosa include e quando serve l’abbonamento

Gemini gratis: cosa include e quando serve l’abbonamento

Scopri cosa include Gemini gratis, quali limiti ha e quando conviene pagare. Funzioni, contesto, prezzi in USD, API e offerta studenti a confronto.14 ott 2026AI
Claude vs Gemini: quando scegliere Opus 5.5 o Argon

Claude vs Gemini: quando scegliere Opus 5.5 o Argon

Claude vs Gemini: confronta Opus 5.5 e Gemini 4 Argon per codice, ricerca e agenti. Prezzi di lancio e di dicembre, cache e limiti per scegliere con criterio.14 ott 2026AI
Gemini Notebook: come usare NotebookLM al lavoro

Gemini Notebook: come usare NotebookLM al lavoro

Scopri come usare NotebookLM, oggi Gemini Notebook: fonti, citazioni, piani e casi pratici per preparare offerte, analisi clienti e percorsi di inserimento.14 ott 2026AI
Agenti AI in azienda: cosa fanno e quando convengono

Agenti AI in azienda: cosa fanno e quando convengono

Come funzionano gli agenti AI e quando convengono in azienda: esempi, differenze dai chatbot, costi e domande da fare ai fornitori prima dell'acquisto.14 ott 2026AI
Agenti AI per aziende: 6 piattaforme a confronto nel 2026

Agenti AI per aziende: 6 piattaforme a confronto nel 2026

Confronta 6 piattaforme di agenti AI per aziende: integrazioni, permessi, approvazioni, conservazione dei dati e prezzi per scegliere in base ai processi.14 ott 2026AI
Grok vs Claude: quale conviene al tuo team?

Grok vs Claude: quale conviene al tuo team?

Grok vs Claude a confronto: prezzi, modelli, costi API, programmazione, ricerca su X e documenti. Scopri quale conviene a un piccolo team e perché.13 ott 2026AI
Claude Cowork: come usarlo per report e attività ricorrenti

Claude Cowork: come usarlo per report e attività ricorrenti

Come usare Claude Cowork per report, riunioni e documenti: prezzi, attività pianificate, limiti del cloud e confronto con Claude Code per scegliere bene.13 ott 2026AI
Agente AI che usa il computer: come scegliere e quanto costa

Agente AI che usa il computer: come scegliere e quanto costa

Quando conviene un agente AI che usa il computer? Confronto tra API e assistenti, costi reali, controlli di sicurezza e un esempio di download con approvazione.13 ott 2026AI
Newsletter

Una lettera, ogni domenica.Sistemi che funzionano, non hot take.

Settimanale. Niente spam. Si cancella quando vuole.