LangChain RAG e LlamaIndex a confronto: quale scegliere

LangChain RAG o LlamaIndex: da quale partire?

Scegli LlamaIndex per un'applicazione incentrata sui documenti. Scegli LangChain per un agente che coordina il lavoro tra più strumenti. Entrambi permettono di realizzare sistemi di retrieval-augmented generation, o RAG: si recuperano le fonti pertinenti prima di chiedere al modello di formulare una risposta.

Per chi sta avviando un prodotto e vuole creare un assistente di supporto basato sui manuali, LlamaIndex è il punto di partenza più adatto. Le sue astrazioni per documenti, indici e motori di query mettono al centro del codice il percorso dall'acquisizione dei dati alla risposta. È la scelta da cui partire se il prossimo problema tecnico riguarda passaggi mancanti, struttura dei documenti o fonti da fornire al modello.

Per uno sviluppatore che sta creando un assistente capace di leggere una procedura, controllare un ordine e chiedere l'approvazione prima di emettere un rimborso, LangChain è il punto di partenza più adatto. La sua attuale API per gli agenti ruota attorno agli strumenti e al ciclo del modello, con LangGraph come framework di esecuzione sottostante. Parti da qui se devi gestire lo stato, le approvazioni o la scelta dell'azione successiva.

Se l'applicazione esistente soddisfa già i requisiti di recupero delle informazioni e gestione dei workflow, mantienila. Cambiare nome al framework non corregge una tabella interpretata male né rende sicura un'operazione di pagamento. Aggiungi il componente mancante solo quando sai indicare il problema preciso che deve risolvere.

I criteri di questo confronto sono la gestione dei documenti, il controllo sull'esecuzione degli agenti, i confini tra le integrazioni e i costi ricorrenti. Le valutazioni si basano sulla documentazione: non sono classifiche di velocità o accuratezza misurate.

Fonti: documentazione di LlamaIndex, documentazione di LangChain, pacchetto LlamaIndex, pacchetto LangChain e listini ufficiali di LlamaParse e LangSmith. I servizi gestiti nella riga dei prezzi svolgono funzioni diverse: gli abbonamenti non sono equivalenti.

A cosa servono oggi i due framework

LlamaIndex non si limita agli indici e LangChain non è solo una raccolta di catene. La documentazione attuale include gli agenti in entrambi gli ecosistemi. La differenza sta nella struttura iniziale che ciascuno offre per affrontare il lavoro.

LlamaIndex: pipeline di dati e agenti sui documenti

LlamaIndex è un framework open source per agenti che utilizzano i tuoi dati. I suoi componenti coprono il caricamento dei documenti, la creazione di rappresentazioni ricercabili, il recupero delle fonti e la generazione delle risposte. I suoi Workflows supportano anche processi basati su eventi, con diramazioni, tentativi successivi e revisione umana. La panoramica ufficiale del framework descrive esplicitamente questa portata più ampia.

Per un assistente che lavora sui contratti, l'unità utile è spesso il singolo passaggio: da dove proviene, a quale versione appartiene e se la sezione circostante ne cambia il significato. Il Node di LlamaIndex, un frammento del contenuto sorgente con metadati e relazioni, permette di gestire queste informazioni. Un motore di query combina poi recupero delle fonti e generazione della risposta. Il funzionamento è descritto nella guida a VectorStoreIndex.

Il limite è la qualità del materiale in ingresso. Un loader che appiattisce una tabella può separare un prezzo dall'intestazione della sua colonna; indicizzare quel testo significa conservare fedelmente l'errore. La documentazione di LlamaIndex distingue i reader integrati, adatti a testi puliti, dal servizio commerciale LlamaParse, destinato ai documenti più complessi. Scegli il framework per le sue astrazioni sui dati, poi valuta separatamente il parsing.

C'è anche un aspetto di manutenzione da considerare: l'attuale descrizione del pacchetto indica che il focus principale del produttore si è spostato su LlamaParse e sugli strumenti correlati per i documenti, mentre il framework resta disponibile come toolkit aperto. Prima di adottarlo come dipendenza di lungo periodo, verifica lo stato di manutenzione delle singole integrazioni che ti servono.

LangChain: agenti con LangGraph alla base

LangChain è un framework open source la cui attuale API create_agent fornisce un'infrastruttura configurabile per gli agenti: strumenti, istruzioni e logica di esecuzione che consentono al modello di svolgere un compito. Il middleware permette di personalizzare il comportamento attorno a questo ciclo. La panoramica ufficiale indica LangGraph come base di questi agenti.

In un agente di assistenza sugli ordini, il recupero delle informazioni può essere solo uno dei vari strumenti. L'applicazione può anche controllare lo stato di una spedizione e preparare una proposta di rimborso. LangChain è il punto di partenza naturale quando sono queste interazioni tra strumenti a definire il prodotto.

Il suo limite è che un'astrazione per agenti non può stabilire le regole aziendali che devono valere sempre. Spetta comunque a te definire chi può ricevere un rimborso, quale approvazione serve e come evitare che un'esecuzione ripetuta lo emetta due volte. Il framework offre i meccanismi di esecuzione; l'applicazione resta responsabile delle regole.

LangChain vs LangGraph

Usa l'astrazione per agenti di LangChain quando il compito si presta a un modello che sceglie gli strumenti da usare. Passa direttamente a LangGraph quando devi definire in modo più esplicito stato e transizioni del workflow. LangGraph fa già parte degli attuali agenti LangChain: aggiungere memoria o revisione umana non richiede automaticamente una riscrittura. Il confronto tra LangChain e LangGraph approfondisce questa scelta.

Versioni Python e licenze attuali

Verifica del 13 ottobre 2026: i pacchetti Python pubblicati erano llama-index 0.14.25, llama-index-core 0.14.25, langchain 1.4.5 e langgraph 1.2.15. Sono versioni rilevate per i singoli pacchetti, non un'unica versione condivisa da tutte le integrazioni di ciascun ecosistema.

Entrambi i repository dei framework adottano la licenza MIT: licenza di LlamaIndex e licenza di LangChain. I prodotti gestiti hanno condizioni commerciali separate. Una licenza gratuita del framework non include l'inferenza del modello, un database vettoriale gestito o il server dell'applicazione.

Lo stesso piccolo progetto RAG con entrambi

Entrambi gli esempi caricano file di testo locali, costruiscono un indice in memoria e rispondono alla stessa domanda usando il materiale recuperato. Servono a mostrare la struttura delle API: per questo confronto sono stati verificati sulla documentazione, ma non eseguiti su un'API di modelli a pagamento.

Crea una directory data con i tuoi file .txt di procedure e regolamenti, codificati in UTF-8. Imposta OPENAI_API_KEY, poi assegna a RAG_MODEL lo stesso modello chat di OpenAI disponibile sul tuo account per entrambi gli script. Tutti e due selezionano esplicitamente text-embedding-3-small per gli embedding, le rappresentazioni numeriche usate per cercare contenuti simili. Il tutorial introduttivo di LlamaIndex raccomanda di rendere esplicita questa scelta.

L'esempio con LlamaIndex

Installa llama-index-core, llama-index-readers-file, llama-index-llms-openai e llama-index-embeddings-openai. In alternativa, il bundle iniziale llama-index include questi componenti; consulta la guida all'installazione.

import os
from llama_index.core import SimpleDirectoryReader, VectorStoreIndex
from llama_index.embeddings.openai import OpenAIEmbedding
from llama_index.llms.openai import OpenAI

docs = SimpleDirectoryReader("data", required_exts=[".txt"]).load_data()
embed = OpenAIEmbedding(model="text-embedding-3-small")
index = VectorStoreIndex.from_documents(docs, embed_model=embed)
llm = OpenAI(model=os.environ["RAG_MODEL"])
engine = index.as_query_engine(llm=llm, similarity_top_k=3)
print(engine.query("What is the refund window?"))

Qui from_documents gestisce la trasformazione dei documenti in nodi e l'indicizzazione. Il motore di query si occupa del recupero delle informazioni e della sintesi della risposta. Per un piccolo assistente su una base di conoscenza, il vantaggio è questo: il codice esprime direttamente il lavoro sui documenti, lasciando disponibili i componenti di livello inferiore quando serve modificarlo.

L'esempio con LangChain

Installa langchain-core, langchain-openai e langchain-text-splitters. Questo flusso di recupero fisso usa i pacchetti dei componenti di LangChain; il pacchetto principale langchain, dedicato agli agenti, serve solo quando aggiungi un agente. Le API sono descritte nella guida RAG, nella documentazione del vector store in memoria e nell'integrazione OpenAI.

import os
from pathlib import Path
from langchain_core.documents import Document
from langchain_core.vectorstores import InMemoryVectorStore
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_text_splitters import RecursiveCharacterTextSplitter
files = Path("data").glob("*.txt")
docs = [Document(page_content=p.read_text(encoding="utf-8"), metadata={"source": str(p)}) for p in files]
chunks = RecursiveCharacterTextSplitter(chunk_size=1000, chunk_overlap=100).split_documents(docs)
index = InMemoryVectorStore.from_documents(chunks, OpenAIEmbeddings(model="text-embedding-3-small"))
question = "What is the refund window?"
context = "\n\n".join(d.page_content for d in index.similarity_search(question, k=3))
llm = ChatOpenAI(model=os.environ["RAG_MODEL"])
print(llm.invoke(f"Answer only from this context; if absent, say unknown.\n{context}\nQuestion: {question}").content)

Questa versione rende visibili i passaggi: caricare il testo, suddividerlo, generarne gli embedding e salvarlo, recuperare i passaggi pertinenti e infine chiamare il modello chat. Il lavoro in più per collegare i componenti diventa utile quando il recupero delle informazioni è solo una parte di un'applicazione più ampia.

Recupero delle informazioni e controllo degli agenti: chi è più adatto a ciascun compito?

LlamaIndex offre l'astrazione iniziale più adatta al recupero di informazioni dai documenti. LangChain offre quella più adatta a un agente che coordina azioni. Sono valutazioni di adeguatezza progettuale, non affermazioni sull'incapacità di un framework di svolgere il lavoro dell'altro.

Acquisizione dei documenti e recupero delle informazioni: vince LlamaIndex

Scegli LlamaIndex quando la maggior parte delle modifiche riguarderà il percorso dal documento grezzo alle fonti restituite al modello. La struttura basata su indicizzazione e motori di query mantiene unite queste attività. Un assistente per gli acquisti che risponde a domande sugli emendamenti contrattuali, per esempio, ha bisogno di preservare le relazioni tra le fonti prima di aggiungere un altro ciclo di chiamate agli strumenti.

LangChain può costruire lo stesso flusso di recupero. La sua documentazione RAG separa l'indicizzazione dal recupero e dalla generazione, e il codice precedente mostra il caso più semplice. Se hai già un buon servizio di ricerca, richiamarlo da LangChain può richiedere meno lavoro che introdurre un altro framework.

La scelta cambia quando il recupero delle informazioni smette di essere il sottosistema più difficile. Con una base di conoscenza pulita e diversi strumenti aziendali, conviene investire nel workflow dell'agente.

Agenti che usano strumenti e controllo dei workflow: vince LangChain

Scegli LangChain quando l'applicazione alterna fonti e azioni: leggere una procedura, recuperare la scheda di un cliente, chiedere le informazioni mancanti e preparare un'azione da approvare. Il ciclo agente configurabile e la base LangGraph si adattano a questa struttura.

Anche LlamaIndex supporta gli agenti. La guida ufficiale agli agenti descrive agenti che usano strumenti, mentre il tutorial introduttivo aggiunge il recupero delle informazioni come strumento richiamabile. Un assistente documentale che cerca, esegue calcoli e restituisce una risposta può restare interamente in LlamaIndex.

Per un workflow incentrato sui documenti già costruito con LlamaIndex, migrare solo perché ora il prodotto ha un «agente» è superfluo. Cambia livello di esecuzione solo quando le nuove esigenze di controllo del workflow lo giustificano.

LlamaIndex vs LangGraph

LlamaIndex e LangGraph spesso si collocano su livelli diversi. LlamaIndex può preparare e recuperare le fonti; LangGraph può controllare come prosegue un workflow con stato dopo averle ricevute. Anche i Workflows di LlamaIndex sono un'opzione per quel livello di esecuzione: usarli entrambi è quindi una scelta architetturale, non un ripiego per una funzionalità mancante.

Il criterio è la responsabilità: un componente deve gestire il recupero dai documenti e un altro lo stato di esecuzione dell'applicazione. Se entrambi decidono autonomamente quando riprovare e come gestire lo stato della conversazione, diagnosticare un'azione ripetuta diventa più difficile.

Qualità del recupero: valuta gli errori, non il marchio

Nessuno dei due framework può rivendicare una maggiore accuratezza sulla sola base dell'elenco delle funzionalità. Usa la stessa raccolta di fonti e le stesse domande, poi controlla se sono stati recuperati i passaggi corretti prima di giudicare la formulazione della risposta.

Per un assistente su procedure e regolamenti, includi una normale domanda sui rimborsi, una a cui risponde solo un emendamento, una la cui risposta è assente e una su un documento a cui l'utente non può accedere. Una risposta scorrevole non basta: verifica la versione della fonte, i limiti delle autorizzazioni e la presenza di riscontri a sostegno della risposta.

Parti da un flusso di recupero fisso. Aggiungi una ricerca adattiva solo quando un ulteriore passaggio di raccolta delle fonti potrebbe correggere una risposta errata. La guida all'agentic RAG spiega quando questo ciclo decisionale aggiuntivo giustifica il proprio costo.

Cosa è gratuito e cosa si paga?

I framework sono gratuiti; l'elaborazione gestita dei documenti, l'osservabilità e il deployment si acquistano separatamente. I prezzi riportati di seguito sono stati verificati sulle pagine ufficiali dei listini statunitensi il 13 ottobre 2026.

LlamaCloud e LlamaParse

LlamaParse è il nome ora usato nella pagina pubblica dei prezzi di LlamaIndex per la sua piattaforma documentale gestita, accessibile dalla dashboard LlamaCloud. Comprende parsing, estrazione e indicizzazione. È un servizio commerciale che affianca il framework open source: non serve abbonarsi per importare llama_index.

I piani pubblici sono Free a $0/mese con 10,000 crediti, Starter a $50/mese con 40,000 crediti e Pro a $500/mese con 400,000 crediti. Enterprise ha un prezzo personalizzato. La tariffa standard di utilizzo è $1.25 per 1,000 crediti.

Il costo di una pagina PDF varia con il livello di parsing: Fast usa 1 credito, Cost-effective 3, Agentic 10 e Agentic Plus 45. Il grafico seguente converte queste tariffe pubblicate nel valore dei crediti necessari per elaborare lo stesso lotto. Non include quote comprese nei piani, costi minimi di abbonamento o componenti aggiuntivi: non rappresenta quindi una fattura mensile.

Fast produce testo con informazioni spaziali anziché Markdown: sceglilo solo se quell'output è adatto al tuo processo di acquisizione. I crediti, inoltre, non eliminano i limiti dei piani: Free e Starter consentono 5 processi di parsing simultanei, contro i 20 di Pro. Passa a un piano superiore per la capacità o le funzionalità che ti servono, non perché un pacchetto più grande renda automaticamente più economico ogni credito. Fonti: tariffe di utilizzo e confronto tra i piani.

LangSmith

LangSmith è la piattaforma commerciale di osservabilità, valutazione e deployment dell'ecosistema LangChain. Può tracciare applicazioni costruite con altri framework, incluso LlamaIndex: puoi quindi sceglierla indipendentemente dal framework. Il produttore spiega questo supporto per più framework.

Il listino di LangSmith prevede Developer a $0/mese per una postazione, con 5,000 tracce di base incluse, e Plus a $39 per postazione al mese, con 10,000 tracce di base complessive incluse. L'utilizzo aggiuntivo viene fatturato. Enterprise ha un prezzo personalizzato.

Una traccia registra un'esecuzione dell'applicazione e può contenere più chiamate ai modelli ed eventi degli strumenti. Non equivale a un token né a un singolo passaggio recuperato. Plus include un piccolo deployment serverless, ma l'utilizzo aggiuntivo del deployment va preventivato separatamente; il fornitore raccomanda un deployment dedicato per gli agenti rivolti ai clienti.

Lo stesso carico mensile: quanto costa con ciascun framework?

A parità di utilizzo degli stessi servizi, cambiare framework non fa risparmiare sugli abbonamenti. Consideriamo uno scenario mensile volutamente circoscritto, con applicazione e indice ospitati separatamente:

• Tre sviluppatori hanno bisogno di postazioni LangSmith Plus.
• L'applicazione produce 20,000 tracce di base.
• Vengono elaborate 1,000 nuove pagine PDF con il livello Agentic di LlamaParse.
• Le due implementazioni usano lo stesso modello chat, lo stesso modello di embedding e lo stesso carico di token.
• In questo scenario non vengono usati Index gestito, l'archiviazione dei file conservati o altre operazioni documentali che consumano crediti.

Il parsing consuma 1,000 × 10 = 10,000 crediti, rientrando nella quota mensile Free se non è già stata usata per altro. L'addebito effettivo è $0, anche se i crediti consumati hanno un valore a tariffa di listino di $12.50. Sono importi diversi: nel piano Free il valore dei crediti non genera una fattura. Dati di partenza: piani LlamaParse e tariffe di utilizzo.

L'attuale calcolatore dei prezzi di LangSmith indica 0.005 LSU per traccia aggiuntiva, a $1 per LSU. Tre postazioni costano 3 × $39 = $117. Le tracce oltre la quota condivisa costano (20,000 − 10,000) × $0.005 = $50. Il subtotale dei servizi selezionati è $167/mese con LlamaIndex e $167/mese con LangChain.

Questo subtotale esclude inferenza del modello, embedding e hosting dell'applicazione. Il budget complessivo è dato dai servizi selezionati più questi costi. Confrontare lo stesso carico del modello mantiene uguali queste voci; se un framework genera recuperi o chiamate al modello aggiuntivi, il carico cambia e va misurato separatamente.

Qui non esiste una soglia di costo oltre la quale conviene l'altro framework: le licenze restano entrambe gratuite ed entrambi possono usare gli stessi servizi a pagamento. Confrontare $50 di elaborazione documentale con $39 di osservabilità significherebbe confrontare attività diverse. La decisione di spesa riguarda il servizio di cui l'applicazione ha bisogno e quanto ne consuma.

La differenza in fattura: query di recupero e turni di chat sono operazioni diverse

Index v2 gestito di LlamaParse addebita 1 credito per una query di recupero e 100 crediti per un turno di chat, oltre agli eventuali costi di parsing e archiviazione. Alla tariffa standard, 1,000 operazioni hanno un valore in crediti di $1.25 per il recupero oppure $125 per la chat gestita, prima delle quote incluse. Sono operazioni diverse, non due prezzi per una risposta identica. Fonte: prezzi di Index.

Questa distinzione conta quando progetti uno stack combinato. Se l'agente esterno genera già la risposta finale, stabilisci se il suo strumento di recupero debba restituire le fonti oppure una risposta già sintetizzata da un altro servizio. La scelta incide sia sull'interfaccia sia sulla fatturazione a consumo. Una chiamata locale a query_engine.query() non comporta automaticamente l'addebito di un turno di chat di Index gestito: la richiesta deve passare effettivamente dal servizio gestito.

Quando usare insieme LlamaIndex e LangChain

Usali entrambi quando il recupero dai documenti e l'orchestrazione delle azioni sono ciascuno un problema complesso. Un agente di supporto che deve interpretare modifiche ai regolamenti e coordinare un workflow di approvazione è un buon candidato. Una semplice interfaccia di domande e risposte su testi puliti di solito non lo è.

Affida a LlamaIndex l'acquisizione dei documenti e il recupero delle informazioni. Esponi una funzione o un servizio circoscritto che restituisca i passaggi pertinenti con identificativi delle fonti e metadati. Lascia che l'agente LangChain richiami quella funzione come strumento, con LangGraph alla base dell'esecuzione. La guida del fornitore all'uso combinato dei framework descrive questa ripartizione.

Nell'esempio del supporto, restituisci il passaggio del regolamento, l'ID del documento e i metadati della revisione. L'agente può quindi confrontarlo con i dati dell'ordine e formulare una proposta di azione. Conserva questi riferimenti alle fonti fino alla risposta finale, così l'applicazione può verificarne il fondamento.

Evita di inserire per errore una risposta già interamente sintetizzata in un altro ciclo che genera risposte. Una stringa restituita da un motore di query può essere comoda, ma può anche nascondere all'agente esterno i passaggi su cui si basa. Quando è importante poter esaminare le fonti, preferisci un risultato di recupero che le esponga esplicitamente. Usa risposte parziali già sintetizzate solo quando questa separazione dei compiti è intenzionale.

Il costo aggiuntivo di due framework è la manutenzione: due insiemi di integrazioni, più aggiornamenti delle dipendenze e un ulteriore confine da monitorare. Entrambi si giustificano solo se sai descrivere la responsabilità di ciascuno senza dire che tutti e due «gestiscono l'agente».

Cambiare framework: cosa si trasferisce e cosa rischia di rompersi?

Il costo della migrazione sta nelle convenzioni sui dati e nello stato dei workflow, non nella sostituzione degli import. Passare da LlamaIndex a LangChain, o usare LlamaIndex come alternativa ai componenti di recupero di LangChain, richiede di partire dal contratto esposto dall'applicazione esistente.

Conserva i documenti sorgente originali e metadati esportabili. Preserva gli ID dei documenti, le etichette di accesso, le revisioni delle fonti e i riferimenti delle citazioni. Sono risorse dell'applicazione. Gli oggetti documento e nodo specifici di ciascun framework sono adattatori costruiti attorno a queste risorse.

Gli embedding esistenti possono restare utili se il modello di embedding, le dimensioni, il testo memorizzato e lo schema del database rimangono compatibili. Non dare per scontato che un nuovo adattatore riesca a leggere ogni campo senza modifiche. Se cambi i confini dei frammenti di testo o il modello di embedding, prevedi di ricostruire l'indice interessato e rivalutare i risultati del recupero. La guida ai vector store di LlamaIndex distingue il suo archivio in memoria predefinito dalle integrazioni persistenti.

Per i workflow, tratta lo stato della conversazione, le approvazioni in sospeso e le azioni incompiute come una migrazione separata. Non rieseguire le chiamate storiche agli strumenti solo per ricostruire lo stato: ripetere un'azione esterna può avere conseguenze anche quando la conversazione sembra corretta. Prima di spostare il traffico, definisci come si concluderanno le vecchie sessioni e come inizieranno quelle nuove.

Non cambiare un agente documentale LlamaIndex stabile solo per poterlo chiamare agente. Non sostituire un flusso di recupero LangChain funzionante perché un altro esempio ha meno righe. Cambia quando l'astrazione attuale rende più difficile esprimere o mantenere un requisito preciso e ricorrente.

Domande frequenti

Da dove partire con il prossimo prototipo

Parti dal problema che il prototipo deve risolvere. Se deve trovare il passaggio giusto nelle fonti, costruisci prima un piccolo flusso di recupero con LlamaIndex. Se deve coordinare strumenti e azioni approvate, parti da LangChain e definisci lo stato da conservare tra i passaggi. Mantieni la prima versione funzionante abbastanza circoscritta da poter esaminare ogni fonte recuperata e ogni azione proposta.

Usa la checklist di audit dei workflow aziendali con l'AI per definire il compito, i requisiti delle fonti e il punto in cui serve un'approvazione prima di scegliere il framework.