Un assistente AI generico conosce molte cose, ma non conosce automaticamente procedure interne, listini aggiornati, documenti tecnici o contenuti riservati di un’azienda. Il RAG, Retrieval-Augmented Generation, nasce per colmare proprio questa distanza.
Invece di chiedere al modello di “ricordare” tutte le informazioni, il sistema recupera le fonti pertinenti al momento della domanda e le fornisce al modello come contesto.
Il flusso in quattro passaggi
Un’architettura RAG può essere descritta in modo semplice:
- i contenuti vengono raccolti da documenti, database, siti o altri repository;
- i testi vengono suddivisi in porzioni utili e trasformati in rappresentazioni numeriche, gli embeddings;
- una ricerca semantica individua le porzioni più pertinenti alla domanda;
- il modello genera la risposta usando quel contesto.
Il vantaggio è che la base informativa può essere aggiornata senza addestrare nuovamente il modello.
Perché non basta caricare dei PDF in un chatbot
Il risultato dipende dalla qualità dell’intera pipeline. Documenti duplicati, chunk troppo lunghi o troppo corti, metadati assenti e fonti obsolete producono risposte peggiori anche usando un ottimo modello linguistico.
Per questo un progetto RAG serio non è solo “AI”. Comprende acquisizione dei contenuti, normalizzazione, indicizzazione, regole di accesso, retrieval, prompt, logging e monitoraggio.
Embeddings e vector database
Gli embeddings permettono di confrontare concetti anche quando le parole non coincidono. Una domanda come “quando chiude la piscina?” può recuperare un contenuto intitolato “orari di apertura” perché il sistema valuta la vicinanza semantica.
Il vector database conserva queste rappresentazioni e consente di trovare velocemente i contenuti più simili alla richiesta. Non sostituisce il database aziendale tradizionale: svolge un compito diverso.
Quando il RAG è utile
È particolarmente adatto quando le risposte devono basarsi su un patrimonio informativo definito e aggiornabile: manuali, procedure, knowledge base, documentazione tecnica, contenuti di portale, FAQ evolute o materiale normativo interno.
Nel progetto Sporti, per esempio, la knowledge base viene alimentata dai contenuti del portale e aggiornata automaticamente. Il punto non è solo generare una risposta naturale, ma mantenere allineata la fonte da cui la risposta deriva.
Cosa non risolve
Un RAG non garantisce automaticamente risposte corrette. Il modello può ancora interpretare male una domanda o sintetizzare in modo imperfetto. È quindi importante progettare soglie di confidenza, citazioni delle fonti, fallback e casi in cui il sistema deve dichiarare di non avere abbastanza informazioni.
RAG, API e dati strutturati
Il RAG è ideale per contenuti testuali e conoscenza documentale. Se invece la domanda richiede un dato preciso e aggiornato — disponibilità, prezzo, saldo, stato di una pratica — è spesso meglio interrogare direttamente un sistema tramite API.
I progetti più utili combinano le due cose: il RAG spiega e contestualizza, le integrazioni API recuperano dati e compiono azioni.
Prima di partire
Un buon assessment dovrebbe chiarire quali fonti usare, con quale frequenza cambiano, chi può accedervi, come misurare la qualità delle risposte e quali domande non devono essere gestite dall’assistente.
È questo il punto di partenza di un progetto di AI e automazione: definire prima il perimetro operativo, poi scegliere modello e infrastruttura.