Home / Glossario / RAG
Che cos’è Retrieval-Augmented Generation?
Abbreviazione: RAG
Retrieval-Augmented Generation (RAG) è la tecnica di recuperare contesto rilevante da uno store di conoscenza al momento della query e includerlo nel prompt dell'LLM. Le knowledge base di osFoundry indicizzano automaticamente per il RAG e Maestro recupera da esse a ogni turno di chat rilevante.
Dettagli
Il RAG affronta due limitazioni degli LLM: dati di training obsoleti e context window limitata. Invece di provare a inserire tutto nel prompt, Lei recupera solo i chunk rilevanti alla query dell'utente e li passa.
Una pipeline RAG tipicamente ha stage: query → embed → ricerca vettoriale → reranking opzionale → filtraggio opzionale → assemblare contesto → chiamare LLM. Ogni stage ha manopole (modello di embedding, top-k, reranker, soglia) che influiscono su qualità e costo.
Come osFoundry affronta Retrieval-Augmented Generation
La pipeline RAG di osFoundry è completamente configurabile per chat path in osStudio. Trascini gli stage, scelga modelli di embedding e reranker, imposti le soglie. Superfici diverse (code-chat vs customer-success) possono avere pipeline diverse.
Domande frequenti
osFoundry supporta il RAG?
Sì: le knowledge base indicizzano automaticamente, le pipeline di retrieval sono configurabili in osStudio e Maestro recupera a ogni turno di chat rilevante.
Qual è la differenza tra RAG e fine-tuning?
Il RAG recupera fatti esterni al momento della query. Il fine-tuning cuoce nuovo comportamento nei pesi del modello. Sono complementari: RAG per i fatti, fine-tuning per stile o ragionamento specializzato.
Posso personalizzare la pipeline RAG?
Sì, per chat path in osStudio. Stage, modelli, soglie diversi per caso d'uso.
Termini correlati
Funzionalità correlate