Home / Glossario / LLM
What is Large Language Model?
Abbreviation: LLM
Un large language model (LLM) è una rete neurale addestrata su vasti corpora testuali per predire il token successivo, producendo output fluente in linguaggio naturale. osFoundry instrada le richieste su oltre 100 LLM di qualsiasi provider: locale, cloud o self-hosted.
Detail
Gli LLM sono reti neurali basate su transformer che vanno da ~1B a oltre 1T di parametri. Alimentano chat, generazione di codice, sintesi, traduzione e la maggior parte dell'AI agentica oggi. La qualità varia in base ai dati di addestramento, all'architettura e al post-training (RLHF, DPO).
Gli LLM si presentano in due modalità di distribuzione: closed-source (accessibili solo via API, per esempio GPT-4, Claude) e open-weight (scaricabili per self-hosting, per esempio Llama, Mistral, Qwen). Il catalogo di osFoundry indicizza 76.000 modelli open-weight più 364 modelli API hosted.
How osFoundry approaches Large Language Model
osFoundry tratta ogni LLM come un backend intercambiabile. Porti la Sua chiave API (BYOK) per i modelli hosted; installi modelli open-weight per inferenza locale; rilasci endpoint GPU dedicati per capacità riservata. Maestro instrada per richiesta in base alle regole che Lei definisce in osStudio.
FAQ
Come si relaziona osFoundry agli LLM?
osFoundry è il livello di orchestrazione sopra gli LLM. Non realizza LLM: Le permette di instradare richieste tra LLM locali, cloud e self-hosted da un unico workspace.
Qual è il miglior LLM?
Nessun singolo LLM è il migliore in tutto. osFoundry Le consente di fare A/B tra LLM diversi per workload e instradare di conseguenza.
Posso usare più LLM in un'unica chat?
Sì. Maestro può cambiare modello a metà conversazione in base alle regole di routing di osStudio.
Related terms
Related features