LLM observability: i migliori strumenti per tracciare token e costi nel 2026

Tra i migliori strumenti di LLM observability per il monitoraggio dei token degli agenti AI nel 2026 c’è un vincitore netto: Langfuse offre ai team di produzione attribuzione dei costi e utenti illimitati a partire da $29/mese. Le nuove righe dedicate ai loop nel comando /usage di Claude Code rendono superflua una dashboard separata per il singolo sviluppatore; vale la pena acquistarne una solo quando servono riattribuzione dei costi tra modelli, budget rigidi o responsabilità a livello di trace.

LLM observability: gli otto strumenti migliori del 2026 in sintesi

Langfuse è la scelta complessivamente migliore per la maggior parte dei team di prodotto e di piattaforma. Il piano Core da $29/mese riunisce monitoraggio di token e costi, utenti illimitati, una retention utile, contesto dei trace e un modello di fatturazione comprensibile anche per chi gestisce il budget. Portkey passa in testa quando le richieste devono fermarsi al raggiungimento di una soglia di spesa. OpenLIT è invece la risposta più solida quando la proprietà dei dati conta più del lavoro infrastrutturale da sostenere.

Prezzi e limiti riportati di seguito sono stati verificati sulle pagine live di ciascun fornitore il 1° settembre 2026. Per prezzo iniziale si intende il primo livello a pagamento che un piccolo team di produzione può realisticamente utilizzare. Salvo diversa indicazione, inferenza dei modelli, eccedenze di storage, infrastruttura self-hosted e lavoro di implementazione restano costi separati.

Le otto scelte a colpo d’occhio

Una dashboard gratuita non equivale a un control plane gratuito. Claude Code, Langfuse, Braintrust, Arize, LangSmith e Datadog possono rendere visibile la spesa, ma vederla non impedisce automaticamente l’esecuzione costosa successiva. Portkey mette a disposizione budget granulari e rate limit nei piani Enterprise e in alcuni piani Pro. Helicone può limitare il numero di richieste o il costo in centesimi per utente o per un’altra proprietà personalizzata. È questa distinzione, prima ancora delle preferenze sull’interfaccia, a dover definire la shortlist.

L’osservabilità degli agenti comincia dove finisce il conteggio dei token

L’osservabilità degli agenti è la capacità di spiegare che cosa ha fatto un agente, quanto è costato ogni passaggio, chi lo ha generato e se il risultato valeva la spesa. Un contatore di token risponde solo a una parte di questa catena. Un agente può chiamare un modello cinque volte, recuperare contesto, usare strumenti, riprovare dopo un errore e infine produrre una risposta scadente. La domanda finanziaria non è «quanti token?», ma «quale workflow del cliente li ha consumati e quel workflow ha avuto successo?».

Claude Code ha alzato l’asticella di base. L’attuale documentazione di /usage indica che la vista Session mostra statistiche dettagliate sui token e una stima locale del costo in dollari. Nei piani in abbonamento, Claude Code v2.1.242 o successivo presenta anche una riga Loops per i task /loop o pianificati più pesanti, con numero di esecuzioni, token totali, token per esecuzione e ultima esecuzione. Chi sviluppa da solo può quindi riconoscere un’attività ricorrente fuori controllo senza comprare un’altra dashboard.

Questa vista locale ha però un confine netto. Day e Week sono stime calcolate dalla cronologia locale delle sessioni nelle ultime 24 ore o negli ultimi 7 giorni. Non includono il lavoro svolto su altri dispositivi né su claude.ai. Per ottenere metriche quasi in tempo reale e per singolo utente nell’intera organizzazione, la procedura documentata prevede l’esportazione OpenTelemetry nello stack di osservabilità aziendale.

L’osservabilità degli agenti AI aggiunge il contesto del workflow

Immagina un agente di assistenza che spende $0.18 per un ticket e $1.40 per un altro. Una schermata dei token individua il ticket più costoso. L’osservabilità degli agenti AI mostra invece che, nel secondo caso, lo stesso strumento è stato tentato quattro volte, è stato usato un modello premium dopo un’escalation e il flusso si è comunque concluso con il passaggio a un operatore umano. A quel punto il responsabile può cambiare il routing, fissare un budget e misurare il costo per ticket risolto anziché per prompt.

Un record davvero utile comprende quattro livelli:

• Esecuzione: un tentativo completo dell’agente, incluse le chiamate ai modelli e agli strumenti.
• Attribuzione: cliente, utente, team, ambiente, workflow o funzionalità a cui appartiene l’esecuzione.
• Esito: successo, errore, escalation, latenza, punteggio di qualità o evento di ricavo.
• Controllo: un avviso prima che il budget diventi problematico e un tetto applicabile quando il workflow deve fermarsi.

Ecco perché una dashboard economica può rivelarsi costosa. Se ogni venerdì il team impiega due ore per collegare le fatture dei modelli agli ID cliente, una piattaforma da $29 può ripagarsi in fretta. Se invece nessuno esamina i dati o è responsabile di un obiettivo di costo unitario, persino uno stack open source gratuito diventa soltanto un altro sistema da gestire.

Come sono stati scelti questi strumenti di osservabilità degli agenti AI

Prezzi e caratteristiche di questi strumenti di osservabilità degli agenti AI sono stati confrontati sulle pagine live dei prodotti; non vengono presentati come prove pratiche. Sono entrati in classifica otto strumenti, tutti capaci di collegare l’utilizzo del modello a un record di produzione più ricco. Sono stati esclusi i prodotti che mostrano soltanto una fattura del provider, stimano il totale di un chatbot generico o descrivono l’osservabilità senza prove pubbliche aggiornate.

Quattro test indispensabili per gli strumenti di osservabilità

La classifica dipende da quattro verifiche concrete.

1. Calcola il costo con precisione? Lo strumento deve accettare l’utilizzo comunicato dal provider oppure associare modello e numero di token a un prezzo aggiornato. Per i modelli privati serve la possibilità di impostare un prezzo personalizzato. Un silenzioso $0.00 è peggio di un chiaro «sconosciuto».
2. Sa attribuire il costo? Tag per utente, cliente, workflow, modello, ambiente ed esito trasformano una fattura in una decisione. Un totale senza responsabile non consente la riattribuzione interna dei costi.
3. Può controllare la richiesta successiva? Gli avvisi valgono solo un punteggio parziale. Budget di costo, limiti alle richieste o policy del gateway valgono di più perché possono modificare l’esecuzione.
4. Chi acquista comprende l’unità di misura? Trace, span, richieste, osservazioni, punteggi e gigabyte elaborati non sono intercambiabili. I prezzi pubblici pesano più di un preventivo commerciale opaco.

Il contesto del trace e le valutazioni risolvono i pareggi. Una piattaforma che mostra la chiamata allo strumento fallita dietro un picco di costo è più utile di una che disegna soltanto una linea crescente. Conta anche la proprietà dei dati, soprattutto per le aziende che non possono inviare prompt, output o metadati dei clienti a un altro servizio SaaS.

Una dashboard di LLM observability deve meritarsi il suo posto

I migliori strumenti di LLM observability giustificano la propria presenza quando cambiano una decisione settimanale. Un product owner dovrebbe riuscire a rispondere in pochi minuti a tre domande: quale workflow ha aumentato il proprio costo unitario? L’incremento dipende dal volume, dal modello scelto, dai tentativi ripetuti o da un contesto più lungo? Quale modifica va apportata a routing, prompt, cache o policy?

Una piattaforma che non sa rispondere è un archivio di telemetria, non uno strumento di gestione dei costi. Può comunque essere utile per il debugging, ma non dovrebbe essere acquistata attingendo al budget dei token. Questa distinzione spiega anche perché la classifica includa prodotti centrati sulla valutazione, come Braintrust e Arize, ma collochi Portkey e Helicone, orientati all’enforcement, più in alto per un’esigenza puramente legata al controllo dei costi.

Classifica degli 8 strumenti

1. Langfuse Agent Observability: il migliore in assoluto

Langfuse Agent Observability è la scelta complessivamente migliore perché Langfuse offre a un team di produzione attribuzione dei costi, contesto dei trace, hosting flessibile e utenti illimitati, con un prezzo di ingresso di $29/mese. Una piattaforma SaaS B2B può etichettare ogni generazione per cliente, funzionalità, ambiente e release, quindi usare dashboard o Metrics API per confrontare il costo di ciascun workflow completato. Il limite è l’enforcement: Langfuse documenta avvisi al superamento di soglie, ma per rifiutare una richiesta fuori budget serve comunque un gateway o una policy applicativa. Il verdetto è semplice: scegli Langfuse quando registro dei costi e trace devono convivere, poi aggiungi l’enforcement solo dove l’esposizione alle perdite lo giustifica.

La pagina dei prezzi di Langfuse definisce come unità fatturabile ogni trace, osservazione o punteggio; un’esecuzione con più osservazioni consuma quindi più unità. Il piano Cloud Hobby è gratuito e include 50,000 unità al mese, 30 giorni di accesso ai dati e due utenti. Core costa $29/mese per 100,000 unità, 90 giorni di accesso ai dati e utenti illimitati; l’utilizzo aggiuntivo parte da $8 ogni 100,000 unità e diminuisce all’aumentare dei volumi. Pro costa $199/mese per 100,000 unità, tre anni di accesso ai dati, gestione della retention, rate limit elevati e utenti illimitati; il componente aggiuntivo Teams costa $300/mese. Enterprise costa $2,499/mese, include 100,000 unità e offre prezzi annuali personalizzati in base ai volumi. Self-hosted Open Source è gratuito con licenza MIT e utilizzo incluso illimitato, mentre Self-hosted Enterprise ha un prezzo personalizzato.

Langfuse può dedurre il costo dalle proprie definizioni dei modelli, ma se nel trace sono presenti valori forniti dal cliente dà priorità a questi ultimi. È il comportamento corretto quando esistono tariffe negoziate con il provider o modelli interni. I costi si possono filtrare per tag e utenti, quindi esportare tramite Metrics API verso una dashboard finanziaria o un report sui margini per cliente.

Ideale per: Team di prodotto e di piattaforma che richiedono responsabilità sui costi a livello di trace senza prezzi per postazione
Punto di forza: Filtri per utenti e tag, costi acquisiti personalizzati, deployment cloud o self-hosted
Prezzi: Hobby $0; Core $29/mese; Pro $199/mese; componente Teams $300/mese; Enterprise $2,499/mese; Self-hosted Open Source $0; Self-hosted Enterprise personalizzato
Prova gratuita: Piano Hobby gratuito; nessuna prova a tempo necessaria

Un registro dei costi pratico con Langfuse

Per partire rapidamente conviene scegliere un solo workflow, non avviare un progetto di strumentazione esteso a tutta l’azienda.

1. 1

   Scegli l’unità di valore aziendale

   Scegli un risultato completato, come un ticket risolto, un lead qualificato, una modifica al codice accettata o una fattura elaborata. Evita di usare «esecuzione dell’agente» come unità aziendale, perché un’esecuzione può fallire senza produrre valore.

2. 2

   Associa quattro dimensioni

   Invia cliente o account, workflow, ambiente e modello come metadati o tag del trace. Aggiungi un campo per l’esito, ad esempio successo, escalation, errore o punteggio, così da dividere il costo per il lavoro effettivamente utile.

3. 3

   Fornisci il prezzo quando l’inferenza è privata

   Usa le definizioni dei modelli di Langfuse per i provider supportati. Se la tariffa è negoziata, self-hosted o privata, acquisisci direttamente i valori di utilizzo e costo affinché un modello sconosciuto non risulti gratuito.

4. 4

   Imposta un solo avviso di soglia

   Configura un avviso sul totale giornaliero del workflow o su una soglia di costo unitario. Invia la notifica a chi può cambiare routing o prompt, non a un canale generale dove finirebbe per diventare rumore di fondo.

5. 5

   Esamina gli errori insieme alla spesa

   Apri i trace più costosi e separa la complessità produttiva dai tentativi ripetuti, dal contesto eccessivo e dagli errori degli strumenti. Se gli errori assorbono gran parte della spesa, consulta il confronto degli strumenti per l’analisi degli errori degli agenti per scegliere il livello di debugging più approfondito.

2. Portkey: il migliore per i budget a livello di gateway

Portkey è la scelta migliore quando il monitoraggio dei token deve trovarsi sullo stesso percorso che può far rispettare un budget. Un team di piattaforma può instradare il traffico dei modelli attraverso il gateway, etichettare le richieste per utente, team, workflow o funzionalità e monitorare token di input, token di output, costo totale e utilizzo del budget. I limiti riguardano il piano e la copertura dei modelli: i budget in termini di costi e token sono disponibili su Enterprise e su alcuni piani Pro, mentre un modello non supportato compare con un costo di $0.00 e non viene conteggiato nel limite di budget del provider. Scegli Portkey quando il percorso di controllo conta più del possesso di una suite di valutazione separata.

I prezzi live di Portkey partono da un gateway Open Source self-hosted che dichiara assenza di limiti alle richieste e di costi per il piano. Developer è gratuito per sempre e comprende 10,000 log registrati al mese, tre giorni di retention dei log e 30 giorni di retention delle metriche. Dopo aver superato la quota le richieste continuano, ma i log eccedenti non vengono registrati: si crea così una lacuna nelle prove proprio quando il traffico cresce.

Production costa $49/mese e include 100,000 log registrati, 30 giorni di log, 90 giorni di metriche, avvisi, RBAC e chiavi per gli account di servizio. Ogni blocco aggiuntivo di 100,000 richieste costa $9 fino a 3 milioni. Enterprise ha un prezzo personalizzato, parte da oltre 10 milioni di log registrati al mese e aggiunge budget e rate limit granulari, retention personalizzata, deployment privato, esportazione dei dati e supporto enterprise.

Il comportamento con i modelli non supportati è il vero test d’acquisto. Prima di considerare affidabile un budget, bisogna definire esplicitamente il prezzo di un fine-tune privato o di un modello appena rilasciato. In caso contrario, la dashboard può sembrare tranquilla mentre la fattura del provider continua a crescere.

Ideale per: Team che desiderano attribuzione dei costi ed enforcement sullo stesso percorso del gateway
Punto di forza: Riattribuzione tramite metadati, più budget e rate limit granulari sui piani idonei
Prezzi: Open Source con costo dichiarato del piano pari a $0; Developer $0; Production $49/mese più $9 per ogni blocco extra di 100,000 richieste fino a 3 milioni; Enterprise personalizzato
Prova gratuita: Piano Developer gratuito; sulla pagina dei prezzi verificata non è indicata una prova a tempo di Production

3. Helicone: il migliore per controllare rapidamente i costi tramite proxy

Helicone è il percorso più rapido dalle richieste grezze ai modelli fino ai controlli sui costi, a condizione che il team sia disposto a far transitare il traffico attraverso un gateway o proxy. Un prodotto con diverse funzionalità basate su modelli può associare proprietà personalizzate per utente, funzionalità, ambiente o workflow, raggruppare sessioni con più chiamate e limitare il numero di richieste o il costo in centesimi lungo gli stessi confini. Il limite è la precisione tra le diverse integrazioni: Helicone definisce accurati i calcoli effettuati dal gateway tramite il proprio Model Registry, mentre i percorsi diretti ai provider usano un archivio prezzi best effort che copre più di 300 modelli. Scegli Helicone quando la via breve verso rate limit basati sui costi conta più di una valutazione approfondita o della correlazione con l’infrastruttura.

I prezzi di Helicone partono da Hobby a $0, con 10,000 richieste al mese, 1 GB di storage, una postazione, un’organizzazione e retention di sette giorni. Pro costa $79/mese e offre postazioni illimitate, un’organizzazione, avvisi, report, HQL, retention di un mese e addebiti in base all’utilizzo una volta superate le 10,000 richieste e 1 GB inclusi. Team costa $799/mese e comprende cinque organizzazioni, retention di tre mesi, supporto SOC 2 e HIPAA e un canale Slack dedicato. Pro e Team prevedono entrambi una prova di sette giorni. Enterprise ha un prezzo personalizzato e include organizzazioni illimitate, retention permanente, SAML SSO, deployment on-premises, sconti cloud sui grandi volumi e acquisizione fino a 30,000 log al minuto.

I rate limit di Helicone si possono applicare a livello globale, per utente o per proprietà personalizzata. Possono limitare il numero di richieste o il costo in centesimi. I rate limit basati sui token risultano ancora «coming soon»: chi necessita di un tetto letterale sui token non deve quindi presumere che un limite di costo si comporti allo stesso modo.

Ideale per: Team SaaS che richiedono strumentazione rapida tramite proxy e controlli delle richieste basati sui costi
Punto di forza: Sessioni e proprietà personalizzate collegano workflow con più chiamate all’economia del singolo utente o della funzionalità
Prezzi: Hobby $0; Pro $79/mese più utilizzo; Team $799/mese più utilizzo; Enterprise personalizzato
Prova gratuita: Sette giorni per Pro e Team; Hobby è gratuito

4. OpenLIT: il migliore per monitorare i coding agent in self-hosting

OpenLIT è la migliore opzione self-hosted per chi vuole riunire sessioni dei coding agent, costo dei token e attività sui repository in uno stack nativo OpenTelemetry. Un’azienda che gestisce già ClickHouse e un OpenTelemetry Collector può mantenere prompt, trace e cronologia nel proprio ambiente, strumentando insieme coding agent e chiamate ai modelli. Il limite sta nella responsabilità operativa: la licenza da $0 lascia a carico del budget engineering deployment, aggiornamenti, storage, backup e controllo degli accessi. Scegli OpenLIT quando mantenere la telemetria nel tuo ambiente è un requisito, non una semplice preferenza.

I prezzi di OpenLIT indicano per il livello Open Source con licenza Apache 2.0 un costo di $0 e utilizzo self-hosted, utenti, progetti, ambienti e dati storici illimitati. Cloud è contrassegnato come «coming soon» e non ha un prezzo pubblicato. Il pacchetto open source comprende tracing nativo OpenTelemetry, monitoraggio di sessioni dei coding agent, costi, token e attività sui repository, oltre a dashboard personalizzate.

OpenLIT include un file predefinito dei prezzi aggiornabile e accetta un JSON personalizzato per i prezzi dei modelli privati, sottoposti a fine-tuning o non supportati. Questa possibilità di sovrascrittura esplicita è importante, perché una piattaforma self-hosted viene spesso affiancata a un modello che un catalogo SaaS non riconosce. Il valore di pianificazione non è comunque zero: al costo della licenza vanno aggiunti storage del database, capacità del collector, aggiornamenti, risposta agli incidenti e una persona responsabile.

Ideale per: Team dotati di competenze infrastrutturali con requisiti stringenti di proprietà dei dati o telemetria per coding agent
Punto di forza: Monitoraggio con licenza Apache 2.0 e nativo OpenTelemetry, con prezzi personalizzati per i modelli
Prezzi: Licenza Open Source $0 con utilizzo self-hosted illimitato; Cloud coming soon senza prezzo pubblicato
Prova gratuita: Nessuna prova necessaria per Open Source; Cloud non è disponibile per determinarne il prezzo

5. Braintrust: la migliore piattaforma di osservabilità e valutazione AI per decidere tra costo e qualità

Braintrust è la piattaforma di osservabilità e valutazione AI più solida quando chi gestisce il budget deve collegare la spesa dei modelli a punteggi, errori e qualità del prodotto. Un team che automatizza il supporto può aggregare token di prompt, completamento, lettura e creazione della cache e token totali accanto a costo stimato, chiamate agli strumenti, errori e latenza, quindi raggruppare le metriche per utente o modello con SQL. Il limite è l’enforcement: Braintrust documenta avvisi personalizzati sulla spesa mensile per Starter e Pro, ma non limiti rigidi di spesa. Scegli Braintrust quando un modello più economico è accettabile soltanto se la valutazione del suo output resta sufficientemente buona.

I prezzi di Braintrust indicano Starter a $0/mese, con $10 di crediti per i modelli seguiti dalle tariffe sui token, 1 GB di dati elaborati seguito da $4 per GB, 10,000 punteggi seguiti da $2.50 ogni 1,000, retention di 14 giorni e utenti illimitati. Pro costa $249/mese e include $100 di crediti per i modelli seguiti dalle tariffe sui token, 5 GB di dati elaborati seguiti da $3 per GB, 50,000 punteggi seguiti da $1.50 ogni 1,000 e retention di 30 giorni. La retention estesa su Pro costa $0.50 per GB al mese. Enterprise ha un prezzo personalizzato e offre retention ed esportazione personalizzate, RBAC, supporto premium e deployment hosted oppure on-premises.

Le diverse unità di misura hanno un significato preciso. I dati elaborati coprono il volume dei trace, i punteggi coprono l’attività di valutazione e i token dei modelli coprono l’inferenza. Un team che confronta versioni dei prompt deve modellare tutte e tre le voci, anziché considerare il canone di piattaforma da $249 come l’intera fattura.

Ideale per: Team di prodotto che devono stabilire se un modello meno costoso conserva la qualità misurata
Punto di forza: Riepiloghi di token e costi accanto a punteggi, errori, chiamate agli strumenti e analisi SQL
Prezzi: Starter $0 più utilizzo; Pro $249/mese più utilizzo; retention estesa $0.50/GB/mese; Enterprise personalizzato
Prova gratuita: Piano Starter gratuito con crediti per i modelli e quote incluse

6. Arize AX e Phoenix: i migliori per OpenTelemetry più valutazione

Arize AX e Phoenix sono adatti ai team che cercano trace conformi a OpenTelemetry, monitoraggio di token e costi e valutazione, senza dover adottare subito un gateway. Arize AX è il prodotto gestito, mentre Phoenix è l’alternativa open source e local-first per tracing e valutazione. Chi gestisce la piattaforma può iniziare con Phoenix durante lo sviluppo e passare ad AX quando diventano importanti retention gestita, acquisizione e operatività condivisa. Il limite riguarda la posizione del controllo: questa combinazione spiega e valuta le esecuzioni, ma il percorso delle richieste richiede comunque un gateway o una policy applicativa quando un budget rigido deve arrestare l’esecuzione. Scegli Arize quando telemetria aperta e profondità della valutazione contano più dell’enforcement nativo della spesa.

I prezzi di Arize indicano AX Free a $0 con 25,000 trace span al mese, 1 GB di acquisizione, retention di 15 giorni, utenti illimitati e valutazioni illimitate. AX Pro costa $50/mese e include 50,000 span, 10 GB di acquisizione, retention di 30 giorni, utenti illimitati e valutazioni illimitate. Enterprise ha un prezzo personalizzato, con livelli personalizzati per span, acquisizione e retention, oltre al deployment SaaS o self-hosted. Phoenix è open source e local-first.

L’unità da controllare è lo span, non il trace di livello superiore. Un’esecuzione di un agente con numerose chiamate ai modelli e agli strumenti può emettere molti span; la quota di 50,000 span potrebbe quindi coprire un numero di attività per gli utenti finali molto inferiore a 50,000. Prima di prevedere la spesa, strumenta un workflow rappresentativo e calcolane il numero mediano di span.

Ideale per: Team standardizzati su OpenTelemetry che richiedono una valutazione gestita o local-first
Punto di forza: Utenti e valutazioni illimitati con AX, più il percorso open source di Phoenix
Prezzi: AX Free $0; AX Pro $50/mese; AX Enterprise personalizzato; Phoenix open source
Prova gratuita: Livello AX gratuito e Phoenix open source

7. LangSmith: il migliore per un ciclo di miglioramento basato su LangChain

LangSmith è la scelta giusta per monitorare i token quando il team usa già LangChain e l’osservabilità alimenta un ciclo continuo di valutazione e miglioramento. Associa nomi dei modelli e quantità di token ai prezzi, accetta prezzi personalizzati per i modelli e distingue i trace base con retention di 14 giorni dai trace estesi con retention di 400 giorni. Il limite è l’economia per postazione: Plus costa $39 per postazione al mese, quindi un gruppo di dieci persone paga $390/mese prima dell’utilizzo aggiuntivo dei trace. Scegli LangSmith per integrare tracing e valutazione in uno stack fortemente basato su LangChain, non come dashboard condivisa dei costi più economica.

I prezzi di LangSmith indicano Developer a $0 per postazione al mese, con una postazione e 5,000 trace base al mese, seguito dal pagamento in base all’utilizzo. Plus costa $39 per postazione al mese e include ogni mese 10,000 trace base per l’intera organizzazione, con la possibilità di aggiungere altre postazioni e addebiti pay-as-you-go oltre la quota. Enterprise ha un prezzo personalizzato e aggiunge opzioni self-hosted e ibride, SSO personalizzato, ABAC, RBAC, workspace, postazioni e uno SLA per il supporto.

I trace base aggiuntivi costano ciascuno 0.005 LangSmith usage unit, o LSU. Una LSU costa $1.00, mentre una LangChain usage unit, o LCU, costa $1.50. Questo lessico delle unità è un ulteriore motivo per modellare il workflow reale prima di confrontare LangSmith con un prodotto che fattura per richiesta o per span.

Ideale per: Team LangChain in cui la revisione dei trace e la valutazione fanno parte del normale sviluppo del prodotto
Punto di forza: Associazione tra modello e costo, con prezzi personalizzati, all’interno del più ampio ciclo di miglioramento LangSmith
Prezzi: Developer $0 per una postazione; Plus $39/postazione/mese; Enterprise personalizzato; trace base aggiuntivi a 0.005 LSU ciascuno, con 1 LSU a $1 e 1 LCU a $1.50
Prova gratuita: Piano Developer gratuito; sulla pagina dei prezzi verificata non è indicata una prova a tempo di Plus

8. Datadog Agent Observability: il migliore per chi usa già Datadog

Datadog Agent Observability è la soluzione più adatta quando il costo degli agenti deve essere correlato con la telemetria di applicazioni, infrastruttura e sessioni utente già presente in Datadog. Stima automaticamente il costo delle richieste ai modelli testuali in base ai token per oltre 800 modelli e accetta costi inseriti manualmente per modelli privati o non supportati. Il limite sono i costi in un progetto greenfield: Pro parte da $160/mese con impegno annuale, un sovrapprezzo che si ripaga quando la correlazione tra sistemi sostituisce il lavoro manuale sugli incidenti, non quando chi sviluppa da solo vuole soltanto un grafico dei token. Scegli Datadog quando l’agente è una parte di un sistema di produzione già esistente, non un esperimento isolato.

I prezzi di Datadog Agent Observability indicano Free a $0 con un massimo di 40,000 LLM span al mese, retention dei trace di 15 giorni, contesto e valutazioni illimitati e accesso a tutte le funzionalità. Pro include 100,000 LLM span al mese e costa $160/mese con impegno annuale, $200 mese per mese oppure $240 on demand. Ogni 10,000 span aggiuntivi costano $3.50 con piano annuale, $4.20 mese per mese oppure $5 on demand.

La retention predefinita dei trace è di 15 giorni. I componenti aggiuntivi di retention per 10,000 LLM span al mese costano $1.50 per 30 giorni, $3 per 60 giorni o $4 per 90 giorni. Con un milione di LLM span mensili e prezzi annuali, Pro arriva a $475/mese prima dei componenti di retention: la base da $160 più 90 blocchi eccedenti da $3.50.

Ideale per: Team operativi che analizzano già servizi, infrastruttura, sessioni e agenti in Datadog
Punto di forza: I trace degli agenti si correlano al resto del patrimonio di telemetria di produzione
Prezzi: Free $0; Pro $160/mese con piano annuale, $200 mese per mese o $240 on demand; eccedenze e componenti di retention extra
Prova gratuita: Livello gratuito con tutte le funzionalità fino al limite incluso

Quali strumenti di monitoraggio LLM scegliere e per chi

La regola decisionale mette al primo posto l’enforcement, poi hosting, valutazione e infine prezzo. Parti dall’azione che il sistema deve intraprendere quando la spesa sale. Se deve bloccare, reindirizzare o rallentare il traffico, limita la shortlist a Portkey o Helicone e verifica che il controllo del budget richiesto sia presente nel piano acquistato. Se basta inviare un avviso e spiegare l’accaduto, le possibilità aumentano.

Strumenti di monitoraggio degli agenti AI: la regola decisionale

Scegli Langfuse per un registro dei costi generico e indipendente dai modelli, con contesto dei trace e bassi costi di collaborazione. Scegli OpenLIT quando i trace non possono uscire dall’ambiente aziendale e l’organizzazione gestisce già l’infrastruttura necessaria. Scegli Braintrust o Arize se ogni variazione di costo va valutata rispetto alla qualità dell’output. Scegli LangSmith quando l’integrazione con LangChain vale più dell’assenza di prezzi per postazione. Scegli Datadog se è già lì che inizia l’analisi degli incidenti.

Migliori strumenti di LLM observability: quando cambia tutto

I migliori strumenti di LLM observability valgono l’acquisto nel momento in cui un secondo responsabile ha bisogno delle stesse prove. Può trattarsi della finanza che attribuisce il costo del modello a un cliente, della sicurezza che richiede dati locali, del supporto che spiega un’automazione fallita o del prodotto che confronta il costo per risultato accettato. Fino ad allora può bastare il monitoraggio integrato dell’utilizzo.

I punti di svolta sono concreti:

• Uno sviluppatore, un dispositivo, un workflow basato su modelli: resta con /usage di Claude Code e la fatturazione del provider.
• Più sviluppatori o dispositivi: esporta OpenTelemetry o adotta una piattaforma condivisa.
• Più clienti o funzionalità di prodotto: richiedi l’attribuzione tramite metadati.
• Un loop fuori controllo può causare perdite rilevanti: richiedi un budget applicabile sul gateway.
• Un modello più economico può ridurre la qualità: aggiungi la valutazione prima di cambiare routing.
• I dati dei prompt non possono lasciare l’ambiente: confronta OpenLIT, Langfuse self-hosted, Phoenix o un piano enterprise self-hosted.

È qui che entrano in gioco anche i gateway. Controllano il percorso delle richieste, mentre un prodotto di osservabilità spiega ciò che è accaduto dopo e attraverso quel percorso. Il confronto tra gateway gestiti per agenti è il passo successivo quando routing, failover e policy devono convivere.

I conti del budget: quanto deve ripagare la dashboard

Una dashboard per i token dovrebbe ripagare per intero il costo della piattaforma evitando sprechi o eliminando il lavoro di riconciliazione. Con un’ipotesi trasparente di pianificazione pari a $100 per ora di engineering comprensiva di tutti i costi, il canone mensile di Langfuse Core da $29 equivale a 17.4 minuti. Portkey Production a $49 equivale a 29.4 minuti. Arize AX Pro a $50 equivale a 30 minuti. Helicone Pro a $79 equivale a 47.4 minuti. Datadog Pro a $160 con fatturazione annuale equivale a 96 minuti. Braintrust Pro a $249 equivale a 149.4 minuti. Dieci postazioni LangSmith Plus a $390 equivalgono a 234 minuti.

Questi valori sono soglie di pareggio per la pianificazione, non risparmi promessi. Chi ha fondato un’azienda finanziata dovrebbe chiedersi quale attività ricorrente scomparirà. Se la risposta è «ogni mese qualcuno impiega tre ore a collegare i CSV dei provider ai clienti», quasi tutte le opzioni a pagamento superano la soglia. Se invece la risposta è «il grafico è più bello», nessuna la supera.

Il costo base annuale rende evidente l’impatto dei prezzi sulla collaborazione. Langfuse Core costa $348, Portkey Production $588, Arize AX Pro $600, Helicone Pro $948, Datadog Pro con impegno annuale $1,920, Braintrust Pro $2,988 e dieci postazioni LangSmith Plus $4,680. La licenza di OpenLIT costa $0, ma infrastruttura e lavoro di engineering non sono valorizzati.

Non trasformare l’elenco in una falsa gara sul prezzo unitario. Langfuse fattura trace, osservazioni e punteggi. Portkey fattura le richieste registrate. Datadog fattura gli LLM span. Braintrust fattura i dati elaborati e i punteggi insieme all’utilizzo del modello. LangSmith fattura i trace attraverso le proprie unità di utilizzo. Un solo workflow del cliente può generare una richiesta, diverse generazioni, decine di span e diversi punteggi.

Una previsione corretta usa un workflow rappresentativo:

1. Conta il numero mediano di chiamate ai modelli, trace, osservazioni, span e punteggi.
2. Moltiplicalo per le esecuzioni riuscite e fallite previste ogni mese.
3. Aggiungi retention, postazioni, dati elaborati e inferenza dei modelli.
4. Applica uno scenario con nuovi tentativi, perché uno strumento guasto può moltiplicare il costo senza moltiplicare il valore.
5. Dividi il totale per il risultato aziendale riuscito, non per l’esecuzione dell’agente.

Quest’ultimo valore è la metrica operativa. Il costo per ticket risolto, modifica al codice accettata, richiesta elaborata o lead qualificato si può confrontare tra prompt e modelli. Il numero totale di token no.

Gli strumenti da evitare per il controllo dei costi

Evita di acquistare una piattaforma di osservabilità generalista quando la sua funzione migliore non ha relazione con il problema di budget. Il prodotto sbagliato può misurare di più e controllare di meno.

• Il solo /usage di Claude Code per riattribuire i costi nel team: è utile per un singolo sviluppatore e una cronologia locale, ma non include gli altri dispositivi né claude.ai. Da solo non può diventare un registro condiviso dei costi per cliente.
• OpenLIT Cloud per una procedura d’acquisto che scade oggi: la pagina dei prezzi riporta ancora «coming soon» e non pubblica alcun prezzo. Scegli il percorso open source soltanto se qualcuno può farsene carico.
• LangSmith Plus per una collaborazione limitata ai costi: dieci postazioni costano $4,680 all’anno prima dei trace aggiuntivi. Vale la pena pagare questa cifra quando il ciclo di tracing e valutazione di LangChain offre valore, non per condividere un totale che Langfuse Core può mostrare a $348 all’anno.
• Braintrust Pro per il solo monitoraggio tramite avvisi: $249/mese hanno senso quando punteggi ed esperimenti guidano la scelta del modello. Sono difficili da difendere se l’unico requisito è ricevere una notifica sulla spesa.
• Datadog Pro per un agente greenfield individuale: $160/mese con impegno annuale acquistano una preziosa correlazione in produzione. Una vista /usage locale o il livello gratuito sono il primo passo migliore finché quella correlazione non ha un responsabile.
• Qualsiasi budget di gateway con prezzi dei modelli sconosciuti: Portkey documenta che i modelli non supportati compaiono a $0.00 e non rientrano nel budget del provider. Definisci il prezzo dei modelli privati e nuovi prima di fidarti di un tetto.

Il prodotto più pericoloso della categoria non è un fornitore specifico. È una dashboard che riporta un costo apparentemente preciso nonostante una copertura incompleta dei modelli o esecuzioni mancanti. Pretendi che i costi sconosciuti siano visibili, riconciliali con la fattura del provider e verifica il budget con una richiesta controllata prima di farvi affidamento.

La mossa del lunedì: strumentare un solo workflow costoso

Lunedì, strumenta il singolo workflow con maggiori probabilità di provocare una fattura imprevista. Non partire da tutte le chiamate ai modelli. Scegli il loop di coding ricorrente, l’escalation dell’assistenza, l’agente di ricerca o la pipeline documentale i cui tentativi ripetuti e la cui dimensione del contesto destano già qualche preoccupazione.

Etichetta ogni esecuzione con quattro campi: cliente o account, workflow, ambiente ed esito. Aggiungi modello e release come dimensioni. Imposta un avviso a un costo unitario che meriti un’indagine. Se un’esecuzione fuori controllo può causare una perdita rilevante, configura nel gateway un limite di costo o di richieste e definisci il comportamento di fallback prima di abilitarlo.

Venerdì, esamina tre gruppi: le esecuzioni riuscite vicine alla mediana, quelle riuscite più costose e gli errori costosi. Il confronto separa la complessità necessaria dagli sprechi. Un modello premium può costare di più e risultare comunque vincente se evita nuovi tentativi o l’escalation a una persona. Un modello economico può perdere se genera trace più lunghi e più lavoro per gestire gli errori.

Usa una decisione settimanale come test di adozione. Modifica una regola di routing, accorcia il contesto, correggi i tentativi ripetuti di uno strumento, aggiorna un prezzo personalizzato oppure disdici la dashboard. Un sistema di misurazione che non produce alcuna decisione dopo quattro revisioni non merita un’adozione più ampia.

Domande frequenti

Qual è il miglior agente AI nel 2026?

Non esiste un agente AI migliore per ogni attività. Ai fini del controllo dei costi, la scelta rilevante è il livello di osservabilità intorno all’agente già in produzione. Usa Langfuse per un’attribuzione ampia dei costi, Portkey o Helicone per l’enforcement e uno strumento centrato sulla valutazione quando la qualità va giudicata insieme al prezzo.

Quali sono i migliori strumenti AI da imparare nel 2026?

Impara lo strumento adatto allo stack che gestisci. Chi usa Claude Code da solo dovrebbe prima comprendere /usage e OpenTelemetry. Un team di prodotto deve imparare il tracing basato sui metadati e l’analisi del costo unitario. Un team di piattaforma responsabile del routing dei modelli deve conoscere budget dei gateway e policy di fallback.

Quali sono i principali strumenti per agenti AI?

Separa i runtime degli agenti dagli strumenti che li osservano. Questa classifica tratta Langfuse, Portkey, Helicone, OpenLIT, Braintrust, Arize AX e Phoenix, LangSmith e Datadog Agent Observability per lavorare su token, costi, trace e controlli. Non classifica gli agenti che eseguono l’attività aziendale sottostante.

Qual è la migliore app AI al mondo nel 2026?

Non è possibile indicare un vincitore universale e difendibile, perché il valore dipende da attività, workflow, confine dei dati e budget. Per il monitoraggio dei token degli agenti, Langfuse è la migliore scelta generale di questo confronto, mentre Portkey vince quando la priorità sono budget applicabili.

Quale AI è migliore di ChatGPT?

La preferenza per un modello non sostituisce l’attribuzione dei costi. Un agente in produzione può usare OpenAI, Anthropic, Google, un modello aperto o diversi provider nello stesso workflow. Il livello di monitoraggio deve conservare le prove relative a cliente, workflow, esito e costo al variare di queste scelte.

Qual è l’AI più avanzata nel 2026?

Le capacità cambiano troppo rapidamente per offrire una risposta permanente. Una soluzione di osservabilità dovrebbe restare indipendente dai modelli, accettare prezzi personalizzati e mantenere confrontabili i dati storici su costi ed esiti quando cambia il modello sottostante.

Quale AI usa Elon Musk?

La scelta del modello da parte di un personaggio pubblico non è un criterio utile per monitorare i token. Seleziona questa infrastruttura in base ai modelli chiamati dai tuoi workflow, ai metadati necessari a chi gestisce il budget, al confine dei dati da proteggere e alla necessità o meno di far rispettare un limite.

Qual è lo strumento AI più potente?

In questa categoria, potenza significa collegare la spesa a un workflow e cambiare l’azione successiva. Un trace approfondito senza attribuzione è incompleto. Un avviso preciso senza enforcement è incompleto quando conta contenere le perdite. Lo strumento più solido copre il confine richiesto senza aggiungere funzioni inutilizzate.

Nel 2026 è meglio Claude o ChatGPT?

Scegli Claude o ChatGPT in base a qualità per l’attività, latenza, contesto e condizioni commerciali necessarie. Scegli separatamente il livello di monitoraggio, così l’organizzazione potrà confrontare il costo per risultato riuscito tra i modelli senza ricostruire il proprio registro a ogni cambio.

Verifica il workflow prima di aggiungere un’altra dashboard

Lo strumento di monitoraggio viene alla fine, non all’inizio. Ottieni gratuitamente la checklist per l’audit dei workflow aziendali AI per individuare workflow, responsabile, risultato e punto di controllo prima che un’altra piattaforma entri nel budget.