Come un LLM RAG costruisce una risposta
Query, recupero dei documenti, selezione, sintesi, citazione: le cinque fasi concrete con cui un chatbot IA costruisce una risposta a partire dal web.
Quando ponete una domanda a un chatbot come ChatGPT o Perplexity e questo vi risponde citando delle fonti, non si tratta di un semplice copia-incolla. Il sistema segue una catena di fasi: riformulare la domanda, recuperare documenti, selezionarne i passaggi più pertinenti, sintetizzarli in una risposta coerente, poi citare le fonti. Capire questa catena permette di sapere esattamente dove e come il vostro contenuto può inserirvisi. È utile tenere presente che questa catena non è perfettamente lineare né identica da uno strumento all'altro: alcuni sistemi fondono più di queste fasi, altri ne aggiungono, ma la logica generale, cercare e poi sintetizzare, resta comune alla grande maggioranza delle architetture RAG attuali.
Fase 1: la query viene trasformata prima di essere inviata
La vostra domanda, così come l'avete digitata, non viene quasi mai usata così com'è per cercare informazioni. Il sistema la riformula generalmente in una o più query di ricerca più precise, a volte scomponendola in diverse sotto-domande distinte. È il meccanismo delle fan-out query, approfondito nella lezione Le fan-out query: il concetto chiave: una sola domanda posta dall'utente può dar luogo a più ricerche parallele, ciascuna delle quali copre un angolo diverso dell'argomento. Il numero di sotto-query generate varia in base alla complessità percepita della domanda: a volte bastano due o tre riformulazioni, a volte la scomposizione è molto più ampia. Questo numero non è fisso e dipende dallo strumento e dall'argomento trattato.
Fase 2: il recupero dei documenti pertinenti
Una volta formulate le query, il sistema va a cercare documenti in grado di rispondervi: risultati di un motore di ricerca web, contenuto di un database interno, o una combinazione di entrambi a seconda dello strumento. Questa fase produce generalmente un insieme di candidati più ampio rispetto a quello che verrà effettivamente usato, un po' come una prima lista di risultati prima del filtraggio. In concreto, questa fase si basa spesso su una combinazione di ricerca per parole chiave e ricerca per similarità semantica, quest'ultima permette di ritrovare passaggi pertinenti anche quando non usano esattamente le stesse parole della domanda posta.
Fase 3: la selezione e l'ordinamento dei passaggi (reranking)
Tra i documenti recuperati, non tutti sono uguali. Un meccanismo di ordinamento, spesso chiamato reranking, valuta la pertinenza di ciascun passaggio rispetto alla domanda posta, e trattiene solo gli estratti giudicati più utili. Questo filtraggio avviene generalmente a livello del passaggio, non del documento intero: una pagina può contenere un paragrafo molto pertinente in mezzo a un contenuto per il resto poco utile, e solo quel paragrafo verrà trattenuto. Questo meccanismo è spiegato più in dettaglio nella lezione Come l'LLM fonde i risultati (reranking).
Fase 4: la sintesi in una risposta coerente
Il modello linguistico riceve i passaggi selezionati come contesto, oltre alla domanda iniziale, e redige una risposta che li sintetizza. Non si tratta di assemblare citazioni una dopo l'altra: il modello riformula, riassume, a volte confronta più fonti che si contraddicono, e produce un testo coerente in linguaggio naturale. È in questa fase che conta la qualità di scrittura del contenuto fonte: un passaggio chiaro e autonomo è più facile da integrare correttamente rispetto a un paragrafo ambiguo o dipendente dal contesto circostante. Quando più fonti selezionate si contraddicono, ad esempio su un prezzo o una caratteristica tecnica, il modello deve anche arbitrare: può scegliere di presentare entrambe le versioni, privilegiare la fonte che giudica più recente o più affidabile, o a volte restare vago piuttosto che decidere. È una delle ragioni per cui la freschezza e la coerenza di un contenuto contano tanto quanto la sua sola presenza online.
Fase 5: la citazione, quando esiste
A seconda dello strumento, la risposta finale può includere o meno una citazione esplicita verso la fonte utilizzata: un link, un nome di dominio, una nota a piè di pagina. Questa fase non è sistematica né uniforme da uno strumento all'altro, e dipende anche dalla natura della domanda. Una cosa resta vera nella maggior parte delle architetture: per essere citati, occorre prima essere sopravvissuti alle fasi 2 e 3, cioè essere stati recuperati e poi giudicati sufficientemente pertinenti. Non è raro quindi che un contenuto influenzi la formulazione di una risposta senza mai essere citato nominalmente, il che rende la misurazione del suo impatto reale più complessa di un semplice conteggio di link citati.
Cosa significa questa catena di fasi per il vostro contenuto
Ogni fase di questa catena è un filtro. Il vostro contenuto deve prima essere accessibile e indicizzabile per sopravvivere alla fase 2. Deve poi contenere passaggi sufficientemente autonomi e chiari per sopravvivere alla fase 3. Deve infine essere scritto in modo che una sintesi automatica lo restituisca fedelmente alla fase 4. È l'insieme di questi vincoli a definire ciò che viene chiamato un contenuto "GEO-ready", una nozione approfondita nella lezione Cos'è un contenuto "GEO-ready"?. Un esempio concreto riassume bene la posta in gioco: due articoli possono trattare esattamente lo stesso argomento con lo stesso livello di accuratezza, eppure uno verrà citato tre volte più spesso dell'altro semplicemente perché la sua struttura facilita ciascuna di queste fasi, mentre quella dell'altro le complica.
Tenere a mente questa catena cambia il modo di scrivere: invece di ottimizzare per un unico algoritmo di classificazione, si tratta di produrre un contenuto che resti utile e comprensibile a ciascuna delle fasi attraverso cui un'IA lo fa passare prima di rispondere a qualcun altro che non siate voi.